KOMIK: Deepfake di Sekitar Kita

Awal Januari 2026, Grok AI yang diakses lewat X memiliki kemampuan untuk menyunting foto langsung dalam platform. Masalah muncul ketika fitur ini digunakan untuk melecehkan perempuan lewat suntingan foto tidak senonoh.

Tidak butuh waktu lama Menteri Komunikasi dan Digital, Meutya Hafid, memblokir akses Grok AI di Indonesia. Langkah ini dilakukan imbas banyak pengguna di Indonesia yang menggunakan fitur tersebut untuk melecehkan perempuan.

“Pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya Hafid dalam siaran pers, Sabtu (10/1).

Langkah mewaspadai Grok terkait praktik penyalahgunaan fitur untuk konten seksual non-konsensual sebetulnya juga dilakukan negara lain. Pasca Indonesia memblokir Grok, Malaysia mengambil kebijakan serupa pada 11 Januari 2026.

Di Indonesia, praktik penyalahgunaan deepfake telah lama menjadi ancaman di ruang digital. Eks Menteri Keuangan Sri Mulyani pernah jadi korban. Wajahnya seolah dibuat mengatakan “guru beban negara” yang memicu amarah publik.

Selain itu, menurut data Otoritas Jasa Keuangan, banyak aktor penipuan yang juga menggunakan teknologi deepfake untuk berpura-pura menjadi orang terdekat atau tokoh publik. Modus penipuan ini bahkan menjadi yang paling marak digunakan sepanjang November 2024 hingga 2025.