Jakarta (ANTARA) - Pemerintah India memerintahkan platform X milik Elon Musk untuk segera membenahi aspek teknis dan prosedural pada chatbot Grok menyusul sorotan dari pengguna dan anggota parlemen mengenai munculnya konten-konten tidak senonoh yang dibuat menggunakan alat kecerdasan buatan (Artificial Intelligence/AI).
Menurut siaran TechCrunch pada Jumat (2/1), Kementerian Teknologi Informasi India memerintahkan platform X untuk melakukan tindakan korektif terhadap Grok, termasuk membatasi pembuatan konten yang memuat "ketelanjangan, seksualisasi, konten seksual eksplisit, atau materi lain yang melanggar hukum."
Kementerian memberi waktu 72 jam kepada platform media sosial itu untuk menyerahkan laporan tindakan yang telah diambil, yang memerinci langkah-langkah pencegahan terhadap penayangan atau penyebaran konten yang dinilai "cabul, pornografis, vulgar, tidak senonoh, seksual eksplisit, pedofilik, atau dilarang menurut hukum."
Dalam perintahnya, Kementerian memperingatkan bahwa kegagalan mematuhi ketentuan tersebut dapat membahayakan perlindungan safe harbor X, yakni kekebalan hukum dari tanggung jawab atas konten buatan pengguna berdasarkan hukum India.
Pemerintah India menjalankan langkah tersebut menyusul kekhawatiran yang dikemukakan oleh pengguna, yang membagikan contoh penggunaan Grok untuk mengubah gambar individu, terutama perempuan, agar tampak mengenakan bikini.
Kekhawatiran itu telah mendorong anggota parlemen India, Priyanka Chaturvedi, untuk menyampaikan pengaduan resmi.
Selain itu, ada laporan yang menyoroti kasus penggunaan Grok untuk menghasilkan gambar seksual yang melibatkan anak, masalah yang menurut pernyataan X pada Jumat sebelumnya terjadi akibat kelonggaran pengamanan.
Gambar-gambar yang melibatkan anak itu kemudian dihapus, tetapi gambar perempuan yang dimanipulasi menggunakan Grok masih dapat diakses di X sampai berita ini disiarkan.
Baca juga: xAI perbaiki Grok 4 usai picu kontroversi pernyataan antisemitisme
Sebelum mengeluarkan perintah terbaru, Kementerian Teknologi Informasi India pada Senin mengeluarkan imbauan yang lebih luas kepada platform-platform media sosial.
Dalam imbauan itu, kementerian mengingatkan bahwa kepatuhan terhadap hukum setempat terkait konten cabul dan seksual eksplisit merupakan prasyarat untuk mempertahankan kekebalan hukum atas materi buatan pengguna.
Imbauan tersebut mendesak perusahaan penyedia platform untuk memperkuat pengamanan internal dan memperingatkan bahwa kegagalan melakukannya dapat memicu tindakan hukum berdasarkan undang-undang teknologi informasi dan hukum pidana India.
"Ditegaskan kembali bahwa ketidakpatuhan terhadap persyaratan di atas akan dipandang serius dan dapat berujung pada konsekuensi hukum yang tegas terhadap platform Anda, pejabat yang bertanggung jawab, serta pengguna di platform yang melanggar hukum, tanpa pemberitahuan lebih lanjut," demikian peringatan dalam instruksi kementerian.
Pemerintah India juga menyatakan bahwa ketidakpatuhan terhadap ketentuan dapat berujung pada tindakan terhadap platform X berdasarkan undang-undang teknologi informasi dan hukum pidana India.
Sebagai salah satu pasar digital terbesar di dunia, India menjadi ajang pengujian penting untuk melihat seberapa jauh pemerintah akan meminta pertanggungjawaban platform perihal konten yang dihasilkan AI.
Pengetatan penegakan aturan di India berpotensi menimbulkan efek berantai pada perusahaan teknologi global yang beroperasi di berbagai yurisdiksi.
Sementara itu, platform X terus menggugat sejumlah aspek dalam regulasi konten India di pengadilan karena menilai kewenangan pemerintah dalam menghapus konten berisiko melampaui batas, meski platform selama ini mematuhi sebagian besar arahan pemblokiran.
Baik X maupun xAI tidak segera merespons permintaan TechCrunch untuk menanggapi instruksi pemerintah India terkait perbaikan Grok.
Baca juga: Elon Musk sebut xAI telah buka Grok 2.5 jadi "Open Source"
Baca juga: Elon Musk berencana sisipkan iklan dalam jawaban chatbot AI Grok
Menurut siaran TechCrunch pada Jumat (2/1), Kementerian Teknologi Informasi India memerintahkan platform X untuk melakukan tindakan korektif terhadap Grok, termasuk membatasi pembuatan konten yang memuat "ketelanjangan, seksualisasi, konten seksual eksplisit, atau materi lain yang melanggar hukum."
Kementerian memberi waktu 72 jam kepada platform media sosial itu untuk menyerahkan laporan tindakan yang telah diambil, yang memerinci langkah-langkah pencegahan terhadap penayangan atau penyebaran konten yang dinilai "cabul, pornografis, vulgar, tidak senonoh, seksual eksplisit, pedofilik, atau dilarang menurut hukum."
Dalam perintahnya, Kementerian memperingatkan bahwa kegagalan mematuhi ketentuan tersebut dapat membahayakan perlindungan safe harbor X, yakni kekebalan hukum dari tanggung jawab atas konten buatan pengguna berdasarkan hukum India.
Pemerintah India menjalankan langkah tersebut menyusul kekhawatiran yang dikemukakan oleh pengguna, yang membagikan contoh penggunaan Grok untuk mengubah gambar individu, terutama perempuan, agar tampak mengenakan bikini.
Kekhawatiran itu telah mendorong anggota parlemen India, Priyanka Chaturvedi, untuk menyampaikan pengaduan resmi.
Selain itu, ada laporan yang menyoroti kasus penggunaan Grok untuk menghasilkan gambar seksual yang melibatkan anak, masalah yang menurut pernyataan X pada Jumat sebelumnya terjadi akibat kelonggaran pengamanan.
Gambar-gambar yang melibatkan anak itu kemudian dihapus, tetapi gambar perempuan yang dimanipulasi menggunakan Grok masih dapat diakses di X sampai berita ini disiarkan.
Baca juga: xAI perbaiki Grok 4 usai picu kontroversi pernyataan antisemitisme
Sebelum mengeluarkan perintah terbaru, Kementerian Teknologi Informasi India pada Senin mengeluarkan imbauan yang lebih luas kepada platform-platform media sosial.
Dalam imbauan itu, kementerian mengingatkan bahwa kepatuhan terhadap hukum setempat terkait konten cabul dan seksual eksplisit merupakan prasyarat untuk mempertahankan kekebalan hukum atas materi buatan pengguna.
Imbauan tersebut mendesak perusahaan penyedia platform untuk memperkuat pengamanan internal dan memperingatkan bahwa kegagalan melakukannya dapat memicu tindakan hukum berdasarkan undang-undang teknologi informasi dan hukum pidana India.
"Ditegaskan kembali bahwa ketidakpatuhan terhadap persyaratan di atas akan dipandang serius dan dapat berujung pada konsekuensi hukum yang tegas terhadap platform Anda, pejabat yang bertanggung jawab, serta pengguna di platform yang melanggar hukum, tanpa pemberitahuan lebih lanjut," demikian peringatan dalam instruksi kementerian.
Pemerintah India juga menyatakan bahwa ketidakpatuhan terhadap ketentuan dapat berujung pada tindakan terhadap platform X berdasarkan undang-undang teknologi informasi dan hukum pidana India.
Sebagai salah satu pasar digital terbesar di dunia, India menjadi ajang pengujian penting untuk melihat seberapa jauh pemerintah akan meminta pertanggungjawaban platform perihal konten yang dihasilkan AI.
Pengetatan penegakan aturan di India berpotensi menimbulkan efek berantai pada perusahaan teknologi global yang beroperasi di berbagai yurisdiksi.
Sementara itu, platform X terus menggugat sejumlah aspek dalam regulasi konten India di pengadilan karena menilai kewenangan pemerintah dalam menghapus konten berisiko melampaui batas, meski platform selama ini mematuhi sebagian besar arahan pemblokiran.
Baik X maupun xAI tidak segera merespons permintaan TechCrunch untuk menanggapi instruksi pemerintah India terkait perbaikan Grok.
Baca juga: Elon Musk sebut xAI telah buka Grok 2.5 jadi "Open Source"
Baca juga: Elon Musk berencana sisipkan iklan dalam jawaban chatbot AI Grok
