Polri Selidiki Edit Foto Cabul Berbasis AI Grok di X

Jakarta: Bareskrim Polri merespons fenomena manipulasi foto pribadi tanpa persetujuan pemilik untuk dijadikan konten asusila di media sosial X. Praktik tersebut memanfaatkan fitur kecerdasan buatan atau Artificial Intelligence (AI) Grok yang kini tengah menjamur.

"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI. Karena itu memang kita sedang melakukan penyelidikan ke arah sana," kata Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji di Bareskrim Polri, Jakarta Selatan, Rabu, 7 Januari 2026.
 

Himawan menegaskan bahwa aksi pengeditan foto tersebut merupakan bentuk tindak pidana deepfake. Ia memastikan kasus ini dapat diproses hukum, terutama jika terbukti ada manipulasi data elektronik pada foto milik orang lain tanpa izin.

"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," tegas Himawan.

Sebelumnya, Kementerian Komunikasi dan Digital (Komdigi) memastikan platform X dan fitur Grok AI terancam sanksi administratif hingga pemutusan akses jika tidak kooperatif terhadap aturan di Indonesia. Ancaman ini muncul setelah adanya dugaan penyalahgunaan AI untuk memproduksi dan menyebarkan konten pornografi melalui manipulasi citra pribadi.


Ilustrasi media sosial (Medsos). Foto: Dok. Medcom.id/Metrotvnews.com.

Dirjen Pengawasan Ruang Digital Komdigi Alexander Sabar menekankan bahwa sebagai Penyelenggara Sistem Elektronik (PSE), X wajib mematuhi hukum yang berlaku. Penyedia layanan maupun pengguna yang terbukti melanggar dapat dijerat sanksi administratif dan pidana.

Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi secara spesifik diatur dalam Pasal 172 dan Pasal 407.