JAKARTA, KOMPAS.TV - Kementerian Komunikasi dan Digital (Kemkomdigi) tengah menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X.
Fitur tersebut kini banyak dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar mengungkapkan hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit untuk mencegah produksi dan distribusi konten pornografi.
"Temuan awal menunjukkan belum ada pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi," kata Alexander dalam keterangan tertulisnya di Jakarta, Rabu (7/1/2026).
"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga."
Baca Juga: Polda Metro Jaya Usut Laporan 4 Akun Media Sosial yang Diduga Sebar Hoaks Terkait SBY
Kemkomdigi menilai manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visualnya.
Tindakan itu, kata dia, dapat menimbulkan kerugian psikologis, sosial, hingga reputasi.
Alexander menegaskan, pihaknya kini tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif.
Langkah tersebut mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
Penulis : Dina Karina Editor : Tito-Dirhantoro
Sumber :
- konten asusila x
- konten asusila grok
- grok ai
- kementerian komdigi
