Tuntutan agar Elon Musk Perbaiki Grok Gara-gara Deepfake Asusila...

JAKARTA, KOMPAS.com - Kementerian Komunikasi dan Digital (Kemkomdigi) memblokir sementara akses aplikasi Grok AI karena disalahgunakan untuk membuat konten asusila berupa rekayasa foto (deepfake) tanpa izin.

Pemerintah masih menunggu klarifikasi dari X terkait dampak negatif penggunaan Grok.

Pemblokiran ini bersifat sementara, sebagian akses Grok masih bisa digunakan di X atau melalui provider tertentu.

Pemutusan akses Grok didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9.

Baca juga: Grok, Deepfake, dan Perlindungan di Ruang Digital

Pasal ini mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

var endpoint = 'https://api-x.kompas.id/article/v1/kompas.com/recommender-inbody?position=rekomendasi_inbody&post-tags=Elon Musk, perlindungan perempuan dan anak, konten asusila, penyalahgunaan AI, Grok AI diblokir, Konten asusila deepfake&post-url=aHR0cHM6Ly9uYXNpb25hbC5rb21wYXMuY29tL3JlYWQvMjAyNi8wMS8xMy8wODE0MTEyMS90dW50dXRhbi1hZ2FyLWVsb24tbXVzay1wZXJiYWlraS1ncm9rLWdhcmEtZ2FyYS1kZWVwZmFrZS1hc3VzaWxh&q=Tuntutan agar Elon Musk Perbaiki Grok Gara-gara Deepfake Asusila...§ion=Nasional' var xhr = new XMLHttpRequest(); xhr.addEventListener("readystatechange", function() { if (this.readyState == 4 && this.status == 200) { if (this.responseText != '') { const response = JSON.parse(this.responseText); if (response.url && response.judul && response.thumbnail) { const htmlString = ` `; document.querySelector('.kompasidRec').innerHTML = htmlString; } else { document.querySelector(".kompasidRec").remove(); } } else { document.querySelector(".kompasidRec").remove(); } } }); xhr.open("GET", endpoint); xhr.send();

Menkomdigi Meutya Hafid menegaskan, praktik deepfake seksual nonkonsensual, sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Lindungi perempuan dan anak

Meutya mengatakan, pemblokiran sementara Grok ini untuk melindungi perempuan dan anak karena praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok," ujar Meutya, dalam keterangannya, dikutip Senin (12/1/2025).

Baca juga: Anggota DPR Dorong Pemerintah dan X Duduk Bareng Cari Solusi Problem Grok

Menurut Meutya, penyalahgunaan AI untuk membuat konten seksual nonkonsensual sebagai ancaman nyata terhadap keamanan publik, privasi individu, dan nilai kemanusiaan.

"Ruang digital tidak boleh menjadi wilayah bebas hukum," kata dia.

Selain menutup sementara akses Grok, pihaknya juga meminta X selaku pengelola platform untuk segera memberikan klarifikasi dan bertanggung jawab.

.ads-partner-wrap > div { background: transparent; } #div-gpt-ad-Zone_OSM { position: sticky; position: -webkit-sticky; width:100%; height:100%; display:-webkit-box; display:-ms-flexbox; display:flex; -webkit-box-align:center; -ms-flex-align:center; align-items:center; -webkit-box-pack:center; -ms-flex-pack:center; justify-content:center; top: 100px; } LazyLoadSlot("div-gpt-ad-Zone_OSM", "/31800665/KOMPAS.COM/news", [[300,250], [1,1], [384, 100]], "zone_osm", "zone_osm"); /** Init div-gpt-ad-Zone_OSM **/ function LazyLoadSlot(divGptSlot, adUnitName, sizeSlot, posName, posName_kg){ var observerAds = new IntersectionObserver(function(entires){ entires.forEach(function(entry) { if(entry.intersectionRatio > 0){ showAds(entry.target) } }); }, { threshold: 0 }); observerAds.observe(document.getElementById('wrap_lazy_'+divGptSlot)); function showAds(element){ console.log('show_ads lazy : '+divGptSlot); observerAds.unobserve(element); observerAds.disconnect(); googletag.cmd.push(function() { var slotOsm = googletag.defineSlot(adUnitName, sizeSlot, divGptSlot) .setTargeting('Pos',[posName]) .setTargeting('kg_pos',[posName_kg]) .addService(googletag.pubads()); googletag.display(divGptSlot); googletag.pubads().refresh([slotOsm]); }); } }

"Evaluasi lanjutan akan dilakukan berdasarkan komitmen perbaikan yang diajukan penyelenggara sistem elektronik," ujar dia.