- Bareskrim Polri menyelidiki manipulasi foto pribadi menggunakan Grok AI di X sebagai tindak pidana manipulasi data elektronik.
- Kemkomdigi mendalami Grok AI karena belum memiliki pengaturan mencegah distribusi konten asusila berbasis foto warga Indonesia.
- Kemkomdigi akan menindak PSE jika tidak patuh, termasuk potensi sanksi pemutusan akses layanan Grok AI dan platform X.
Suara.com - Bareskrim Polri menyebut praktik manipulasi foto pribadi menjadi konten asusila melalui fitur Grok AI di platform media sosial X dapat dikategorikan sebagai tindak pidana.
Aparat kepolisian pun kini tengah mengarahkan penyelidikan terhadap dugaan penyalahgunaan teknologi kecerdasan buatan tersebut.
Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji mengatakan, pengeditan foto menggunakan artificial intelligence tanpa persetujuan pemiliknya dapat masuk ranah pidana apabila terbukti sebagai manipulasi data elektronik.
"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI. Karena itu memang kita sedang melakukan penyelidikan ke arah sana," kata Himawan kepada wartawan, Rabu (7/1/2026).
Menurut Himawan, penegakan hukum dapat dilakukan jika terdapat bukti kuat bahwa foto seseorang telah dimanipulasi oleh pihak lain tanpa izin.
"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," ucapnya.
Sementara Kementerian Komunikasi dan Digital (Kemkomdigi) turut melakukan pendalaman atas dugaan penyalahgunaan fitur Grok AI yang digunakan untuk memproduksi dan menyebarkan konten asusila. Penelusuran dilakukan menyusul beredarnya konten manipulasi foto pribadi yang bersifat sensitif di platform X.
"Hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia," ujar Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar, dalam keterangan pers, Rabu (7/1/2026).
Alexander menyebut, kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
Baca Juga: Wagub Babel Dicecar 10 Jam di Bareskrim, Misteri Ijazah Sarjana Terkuak?
"Kemkomdigi menilai, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, tetapi bentuk perampasan kendali individu atas identitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, dan reputasi," tutur dia.
Lebih lanjut, Alexander mengatakan Kemkomdigi saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Pemerintah juga mengingatkan seluruh PSE yang beroperasi di Indonesia wajib mematuhi peraturan perundang-undangan.
"Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X," pungkasnya.
