Malaysia menutup akses sementara Grok pada Minggu (11/1), setelah chatbot kecerdasan buatan (AI) generatif itu memicu kontroversi global terkait edit dan publikasi foto mesum tanpa persetujuan pemilik gambar. Malaysia menjadi negara kedua setelah Indonesia yang memblokir sementara Grok.
Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan pembatasan dilakukan karena berulang kali ditemukan penyalahgunaan Grok untuk menghasilkan konten cabul, eksplisit secara seksual, tidak senonoh, sangat ofensif, serta manipulasi gambar tanpa persetujuan. MCMC menegaskan konten tersebut mencakup perempuan dan anak di bawah umur.
MCMC mengatakan pihaknya telah menyurati X dan xAI, perusahaan pencipta Grok milik Elon Musk, untuk menuntut penerapan pengamanan teknis dan moderasi yang efektif. Namun, tanggapan yang diberikan dinilai hanya mengandalkan mekanisme pelaporan pengguna dan tidak menyentuh risiko yang berasal dari desain dan operasional alat AI itu sendiri.
"MCMC menilai langkah itu tidak cukup untuk mencegah dampak buruk atau memastikan kepatuhan terhadap hukum," ujar MCMC dalam pernyataan resmi, mengutip Reuters.
MCMC menyatakan pembatasan akses ke Grok akan tetap berlaku sampai perusahaan menerapkan perlindungan yang dinilai efektif. Otoritas juga menyatakan tetap terbuka untuk berdialog dengan xAI dan X.
Komdigi Putus Sementara Akses GrokSebelumnya, Kementerian Komunikasi dan Digital (Komdigi) sudah duluan memutus akses Grok AI pada Sabtu (10/1). Hal ini sebagai tindak lanjut dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang dipakai untuk memproduksi dan menyebarkan konten asusila.
Meutya meminta pihak X untuk datang ke Kantor Komdigi dan memberikan klarifikasi terkait maraknya pembuatan konten pornografi palsu menggunakan Grok.
Adapun pemutusan itu telah sesuai dengan dasar hukum yang berlaku di Indonesia. Menurut Meutya, hal itu diatur dalam Permenkominfo Nomor 5 Tahun 2020.
