Pantau - Pemerintah India memerintahkan platform X milik Elon Musk untuk segera memperbaiki aspek teknis dan prosedural pada chatbot berbasis kecerdasan buatan, Grok, dalam waktu 72 jam, setelah munculnya laporan bahwa teknologi ini menghasilkan konten seksual tidak pantas.
Langkah tegas ini diambil menyusul sorotan publik dan anggota parlemen India atas kemunculan gambar hasil manipulasi AI yang menampilkan perempuan dalam pose tidak senonoh serta dugaan keterlibatan gambar seksual anak.
Menurut laporan TechCrunch, Kementerian Teknologi Informasi India secara resmi meminta X untuk membatasi pembuatan dan distribusi konten yang memuat “ketelanjangan, seksualisasi, konten seksual eksplisit, atau materi lain yang melanggar hukum.”
X diwajibkan menyerahkan laporan lengkap dalam waktu 72 jam yang memuat tindakan korektif dan langkah pencegahan terhadap penyebaran konten yang dikategorikan sebagai cabul, pornografis, vulgar, seksual eksplisit, pedofilik, atau bentuk pelanggaran hukum lainnya.
Pemerintah India memperingatkan bahwa kegagalan untuk memenuhi permintaan tersebut dapat mengancam perlindungan safe harbor yang selama ini melindungi X dari tanggung jawab hukum atas konten buatan pengguna.
Manipulasi AI Picu Sorotan ParlemenPeringatan keras ini muncul setelah beredar laporan bahwa Grok digunakan untuk mengubah foto individu, terutama perempuan, agar tampak mengenakan bikini atau busana minim lainnya.
Anggota parlemen India, Priyanka Chaturvedi, telah melayangkan pengaduan resmi mengenai temuan ini.
Selain itu, X juga menghadapi laporan bahwa Grok digunakan untuk menghasilkan gambar seksual yang melibatkan anak di bawah umur.
Pihak X mengklaim bahwa gambar-gambar tersebut telah dihapus setelah terdeteksi, namun gambar manipulatif terhadap perempuan masih dapat diakses di platform saat berita ini diturunkan.
Pemerintah India Perketat Aturan Konten AIPada hari Senin sebelumnya, Kementerian Teknologi Informasi India mengeluarkan imbauan yang ditujukan kepada seluruh platform media sosial untuk memperkuat sistem keamanan konten.
Imbauan tersebut menegaskan bahwa kepatuhan terhadap hukum lokal mengenai konten cabul dan seksual eksplisit adalah syarat mutlak untuk mempertahankan kekebalan hukum atas konten buatan pengguna.
“Ditegaskan kembali bahwa ketidakpatuhan terhadap persyaratan di atas akan dipandang serius dan dapat berujung pada konsekuensi hukum yang tegas terhadap platform Anda, pejabat yang bertanggung jawab, serta pengguna di platform yang melanggar hukum, tanpa pemberitahuan lebih lanjut,” demikian peringatan dari pemerintah India dalam dokumen resmi.
Pemerintah India menyatakan akan mengambil langkah hukum terhadap X jika tidak patuh terhadap hukum teknologi informasi maupun hukum pidana yang berlaku.
Sebagai salah satu pasar digital terbesar di dunia, India menjadi barometer penting dalam pengawasan konten AI dan akuntabilitas platform teknologi global.
X Ajukan Gugatan, Tapi Tetap Patuh SebagianPlatform X saat ini sedang menggugat beberapa aspek regulasi konten di India, termasuk kewenangan pemerintah dalam menghapus konten yang dianggap melanggar hukum.
Namun demikian, X tetap mematuhi sebagian besar perintah pemblokiran konten dari pemerintah India sambil terus berupaya menegosiasikan batas kewenangan negara terhadap platform digital.
Hingga saat ini, baik pihak X maupun perusahaan pengembang Grok, xAI, belum memberikan tanggapan atas permintaan konfirmasi dari TechCrunch mengenai perintah perbaikan tersebut.
