Jakarta, IDN Times - Baru-baru ini, konten tidak senonoh menggunakan AI di platform Twitter atau X, Grok, tengah ramai menjadi perbincangan. Kementerian Komunikasi dan Digital (Kemkomdigi) mengungkap, Grok AI belum memiliki pengaturan eksplisit dan memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata di Indonesia.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menjelaskan, kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri atau right to one’s image, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).
