Komdigi Selidiki Grok AI Dipakai Edit Foto Mesum, Ancam Denda sampai Blokir X

Kementerian Komunikasi dan Digital (Komdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X yang dipakai untuk memproduksi dan menyebarkan konten asusila. Praktik ini mencakup manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.

Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengatakan penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.

"Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ujar Alexander dalam pernyataan resmi, Rabu (7/1).

Komdigi menilai manipulasi digital terhadap foto pribadi tidak sekadar melanggar norma kesusilaan. Praktik tersebut juga merupakan bentuk perampasan kendali individu atas identitas visualnya dan dapat menimbulkan dampak psikologis, sosial, serta kerusakan reputasi korban.

Pemerintah saat ini berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Upaya tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

Kewajiban kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh penyedia layanan digital yang beroperasi di Indonesia, termasuk X.

Jika ditemukan ketidakpatuhan atau sikap kooperatif, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI dan X. Sanksi ini juga diberikan bagi penyedia layanan kecerdasan buatan lain maupun penggunanya yang terbukti memproduksi atau menyebarkan konten pornografi serta manipulasi citra pribadi tanpa hak.

Konten pornografi diatur dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun atau pidana denda sesuai ketentuan.

Alexander juga mendorong masyarakat yang menjadi korban manipulasi foto atau deepfake asusila untuk menempuh jalur hukum melalui pelaporan kepada aparat penegak hukum dan pengaduan ke Kemkomdigi. Ia menekankan ruang digital tetap tunduk pada hukum dan wajib menghormati privasi serta hak atas citra diri setiap warga.