Pantau - Pemerintah Prancis dan Malaysia mengecam chatbot Grok milik perusahaan rintisan kecerdasan buatan xAI yang didirikan Elon Musk setelah diketahui menghasilkan gambar deepfake bernuansa seksual yang melibatkan perempuan dan anak di bawah umur.
Grok terintegrasi dengan platform media sosial X dan sebelumnya mengunggah permintaan maaf melalui akun resminya terkait insiden konten tidak senonoh yang terjadi pada 28 Desember 2025.
Berdasarkan laporan Tech Crunch pada Senin, Grok mengakui telah menghasilkan dan membagikan gambar kecerdasan buatan yang menampilkan dua anak perempuan berusia sekitar 12 hingga 16 tahun dalam busana yang diseksualisasi atas permintaan pengguna.
“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini merupakan kegagalan sistem pengamanan, dan saya menyesal atas dampak yang ditimbulkan,” tulis Grok dalam pernyataannya.
Grok juga menyatakan bahwa xAI tengah melakukan peninjauan internal untuk mencegah kejadian serupa terulang di masa mendatang.
Sejumlah pihak menilai permintaan maaf tersebut tidak jelas pertanggungjawabannya karena Grok bukan entitas yang dapat dimintai tanggung jawab hukum atau moral.
Jurnalis teknologi Albert Burneko dari Defector menilai pernyataan tersebut tidak substantif karena tidak ada subjek hukum yang bisa dimintai pertanggungjawaban langsung.
Laporan media Futurism menemukan bahwa Grok tidak hanya digunakan untuk membuat konten pornografi tanpa persetujuan, tetapi juga menghasilkan gambar perempuan yang mengalami kekerasan dan pelecehan seksual.
Elon Musk dalam unggahan terpisah menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti jika mereka mengunggah konten ilegal tersebut secara langsung.
Di Prancis, kantor kejaksaan Paris menyatakan akan menyelidiki penyebaran deepfake seksual yang beredar di platform X.
Kantor urusan digital Prancis mengungkapkan bahwa tiga menteri telah melaporkan konten yang dinilai ilegal kepada jaksa serta ke platform pengawasan daring pemerintah untuk meminta penghapusan segera.
Di Malaysia, Komisi Komunikasi dan Multimedia Malaysia menyatakan keprihatinan serius atas keluhan publik terkait penyalahgunaan kecerdasan buatan di platform X.
Komisi tersebut menyoroti manipulasi digital gambar perempuan dan anak di bawah umur yang diubah menjadi konten tidak senonoh dan merugikan.
“MCMC saat ini tengah menyelidiki potensi dampak negatif dan pelanggaran yang terjadi di platform X,” demikian pernyataan resmi komisi tersebut.
Langkah Prancis dan Malaysia mengikuti tindakan serupa yang sebelumnya dilakukan oleh India.
Kementerian Teknologi Informasi India memerintahkan agar X membatasi Grok untuk menghasilkan konten yang cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilik, atau dilarang oleh hukum.
Pemerintah India memberikan waktu 72 jam kepada X untuk merespons perintah tersebut serta mengancam akan mencabut perlindungan pelabuhan aman bagi platform digital.
