GenPI.co - Pemerintah memutus akses sementara aplikasi Grok karena berisiko menyebarkan konten pornografi palsu yang dihasilkan menggunakan teknologi akal imitasi (artificial intelligence/AI).
Menteri Komunikasi dan Digital Meutya Hafid mengatakan kebijakan ini sebagai bentuk tanggung jawab negara dalam menjaga ruang digital yang aman, beretika, dan menghormati hak asasi manusia.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya, Sabtu (10/1).
Meutya menjelaskan penggunaan teknologi AI untuk membuat dan menyebarkan konten pornografi palsu tanpa persetujuan adalah bentuk kekerasan berbasis digital.
Hal ini dapat merugikan korban secara psikologis, sosial, maupun hukum.
Dia menegaskan pemutusan akses terhadap Grok bersifat sementara.
Pihaknya melalui Komdigi perlu memastikan setiap platform digital yang beroperasi di Indonesia memiliki mekanisme pengamanan yang memadai.
Dengan demikian, tidak dimanfaatkan untuk memproduksi atau menyebarluaskan konten terlarang.
Di sisi lain, Komdigi juga meminta platform X sebagai pihak terkait untuk segera hadir memberikan klarifikasi.
Menurut dia, klarifikasi diperlukan demi menjelaskan dampak negatif penggunaan Grok.
Begitu pula dengan langkah mitigasi yang akan dilakukan untuk mencegah terulangnya penyalahgunaan teknologi tersebut.
Dia menambahkan tindakan pemutusan akses sementara Grok ini memiliki dasar hukum yang jelas.
Hal ini sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
Sebagai informasi, Grok dikritik berbagai kalangan dari seluruh dunia karena memungkinkan pengguna untuk membuat gambar yang berbau pornografi.(ant)
Lihat video seru ini:
