Jakarta, CNBC Indonesia - Langkah pemerintah Indonesia untuk memblokir sementara layanan Grok AI menarik perhatian dunia. Keputusan tersebut kemudian diikuti negara tetangga, Malaysia.
Malaysia mengatakan pemblokiran sementara untuk layanan Grok disebabkan kegagalan berulang dari platform X untuk menanggulangi risiko-risiko berkaitan dengan tool AI-nya.
Keputusan Malaysia diambil hanya berselang sehari sejak pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) mengumumkan pemblokiran sementara untuk layanan Grok pada Sabtu (10/1).
"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital," kata Menkomdigi Meutya Hafid dalam keterangan resminya.
Seperti diketahui, Grok menjadi sorotan di awal 2026, lantaran mengubah foto-foto perempuan yang beredar di X menjadi konten berunsur pornografi. Foto dengan busana bisa diperintahkan ke Grok dengan mudah untuk dimodifikasi hingga terlihat hanya mengenakan bikini, bahkan hampir telanjang.
- Sinkhole Telan Rumah Warga, Ribuan Orang Langsung Gelandangan
- Indonesia Pertama, Dunia Ramai-Ramai Pantau RI
Konten seperti ini diistilahkan sebagai gambar eksplisit tanpa persetujuan dan materi pelecehan seksual anak (CSAM).
Komdigi juga juga telah meminta platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.
Sejumlah media asing ikut menyoroti langkah pemerintah Indonesia yang kemudian diikuti oleh Malaysia. Salah satunya adalah France24 dalam artikel berjudul Malaysia suspends access to Musk's Grok AI: regulator.
Di dalam artikel dimuat Indonesia menjadi negara pertama yang memutus akses Grok di dunia. Sementara di wilayah lain, alat AI itu juga dibatasi untuk pengguna berbayar saja.
"Pada hari Sabtu, Indonesia jadi negara pertama yang menolak akses ke alat tersebut, yang di tempat lain bisa diakses hanya untuk pelanggan berbayar," tulis France24.
Adapun tindakan pemutusan akses Grok di Indonesia dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Menanggapi kontroversi ini, xAI kemudian mengumumkan pembatasan terhadap fitur pengeditan dan penciptaan gambar pada Grok. Fitur yang tertanam di X dan sebelumnya bisa digunakan untuk semua pengguna, kini dibatasi hanya untuk pelanggan berbayar.
Dalam unggahan X-nya, Musk juga mengancam para pengguna yang menciptakan konten ilegal menggunakan Grok akan menghadapi konsekuensi serius.
(fab/fab)
