Pantau - Wakil Menteri Komunikasi dan Digital Nezar Patria menyatakan bahwa Peraturan Presiden (Perpres) terkait pemanfaatan kecerdasan buatan (AI) tidak mencantumkan ketentuan sanksi terhadap pelanggaran, termasuk dalam hal pembuatan dan penyebaran konten pornografi berbasis AI.
Perpres AI difokuskan pada aspek pengaturan dan etika, sedangkan sanksi terhadap pelanggaran pengembangan AI tetap mengacu pada regulasi yang sudah ada sebelumnya.
"Di Perpres AI kita tidak mengatur soal sanksi. Pelanggaran-pelanggaran yang dilakukan dalam pengembangan AI itu ada di Undang-Undang ITE, dan itu juga ada di Undang-Undang Pornografi, dan sejumlah peraturan menteri yang dibuat oleh Kominfo dan juga Komdigi," ungkap Nezar Patria.
Pemerintah Targetkan Terbitkan Peta Jalan dan Pedoman Etika AIPemerintah tengah menyiapkan Peta Jalan AI Nasional serta pedoman etika kecerdasan buatan dalam bentuk Perpres yang ditargetkan terbit dalam dua bulan ke depan.
"Karena ada begitu banyak ya sebetulnya perencanaan Perpres yang masuk, jadi lagi diatur. Kita harapkan dalam waktu dua bulan ini mungkin bisa selesai," ujarnya.
Dalam menangani penyalahgunaan AI untuk membuat konten tidak senonoh, pemerintah mengambil tindakan tegas dengan memutus akses sementara ke layanan Grok, milik platform X, karena fitur pembuat gambar AI-nya memungkinkan penyebaran konten pornografi.
Nezar menyebut fitur tersebut sangat meresahkan dan bertentangan dengan nilai-nilai yang dianut masyarakat Indonesia.
"Tindakan itu menurut saya tidak sesuai dengan nilai-nilai yang kita anut di sini, di mana foto bisa diubah dengan AI generatif menjadi foto-foto yang sifatnya pornografis," katanya.
"Foto kita berpakaian bisa ditampilkan telanjang, dan bisa kemudian dikombinasikan dengan berbagai adegan-adegan, ini saya kira tidak patut," ia menambahkan.
Sistem SAMAN Siap Tindak Konten NegatifUntuk mengawasi dan menindak konten berbahaya di ruang digital, Kementerian Komunikasi dan Digital telah mengembangkan Sistem Kepatuhan Moderasi Konten (SAMAN).
SAMAN digunakan untuk mendeteksi konten terkait pornografi, terorisme, perjudian, aktivitas keuangan ilegal, serta makanan, obat, dan kosmetik ilegal.
"Di situ (SAMAN) ada sanksi-sanksi yang sifatnya administratif, denda, dan lain sebagainya," jelas Nezar.
Langkah pemblokiran akses Grok juga telah diikuti oleh dua negara tetangga, yaitu Malaysia dan Filipina, sebagai bentuk solidaritas dalam menindak penyalahgunaan AI untuk konten pornografi.
