Pantau - Anggota Komisi I DPR RI, Syamsu Rizal, meminta Kementerian Komunikasi dan Digital (Komdigi) untuk segera mengambil langkah tegas terkait keberadaan kecerdasan buatan Grok AI di platform X yang dilaporkan bisa digunakan untuk membuat dan menyebarkan konten pornografi dari gambar pribadi seseorang.
"Selama ini kita melihat Grok AI di platform X dimanfaatkan oleh pengguna untuk mengubah foto atau gambar seseorang menjadi konten asusila. Dengan permintaan yang spesifik, Grok AI dapat menuruti instruksi tersebut. Ini jelas berbahaya," ungkap Syamsu.
DPR Minta Pemblokiran Jika Tidak Ada Pengawasan SistemSyamsu menyebut kemampuan Grok AI dalam memanipulasi gambar pribadi menjadi konten asusila sebagai ancaman serius yang dapat merugikan individu dan merusak tatanan sosial serta moral masyarakat.
Ia menilai bahwa penyalahgunaan kecerdasan buatan tanpa pengawasan ketat berpotensi menciptakan eksploitasi digital dan pelanggaran hak privasi.
"Jika Grok AI dan platform X tidak mampu mengendalikan sistemnya dan tetap membiarkan produksi serta penyebaran konten pornografi, maka Komdigi harus bersikap tegas dengan memblokirnya," tegas Syamsu.
Ia juga menambahkan bahwa negara berkewajiban melindungi warganya dari dampak negatif teknologi digital.
"Langkah tegas ini penting karena jika dibiarkan, penggunaan AI yang tidak bertanggung jawab akan sangat membahayakan dan merusak moral bangsa," tambahnya.
Komdigi Telusuri Potensi Pelanggaran Privasi oleh Grok AISebelumnya, Kementerian Komunikasi dan Digital melalui Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa pihaknya sedang menindaklanjuti laporan mengenai penyalahgunaan fitur Grok AI.
Hasil penelusuran awal menunjukkan bahwa sistem Grok AI belum memiliki pengaturan teknis yang cukup untuk mencegah pembuatan dan penyebaran konten pornografi berbasis manipulasi gambar pribadi.
"Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga," ungkap Alexander.
Situasi ini dinilai berpotensi melanggar hak atas citra diri atau right to one’s image, terutama jika gambar pribadi dimanipulasi dan disebarluaskan tanpa izin.
Komdigi menegaskan akan terus memantau dan mengevaluasi teknologi digital berbasis AI yang beroperasi di Indonesia untuk memastikan perlindungan terhadap warga negara.
