Ada satu perubahan besar dalam kehidupan digital hari ini: citra seseorang dapat diproduksi, dimodifikasi, dan disebarkan tanpa pernah melibatkan tubuh aslinya.
Teknologi kecerdasan buatan (AI) memungkinkan wajah seseorang ditempelkan pada tubuh lain, pakaian dapat diubah secara digital, bahkan adegan seksual dapat direkayasa hanya melalui beberapa perintah teks.
Gambar yang dihasilkan tampak nyata, tetapi sebenarnya tidak pernah terjadi. Dalam kondisi seperti ini, batas antara realitas dan manipulasi visual menjadi semakin kabur.
Masalah menjadi jauh lebih serius ketika teknologi tersebut digunakan untuk memanipulasi tubuh perempuan. Dalam banyak kasus, perempuan menjadi target utama pembuatan deepfake pornografi, yaitu gambar atau video seksual yang dibuat menggunakan AI dengan wajah seseorang tanpa persetujuannya.
Fenomena ini bukan sekadar penyimpangan perilaku individu di internet, tetapi menunjukkan bagaimana teknologi digital dapat memperkuat struktur sosial yang telah lama menempatkan tubuh perempuan sebagai objek visual.
Objektifikasi Perempuan dalam Era AIKasus yang menimpa salah satu member JKT48 pada awal 2026 memperlihatkan bagaimana praktik tersebut terjadi di Indonesia. Foto seorang idol dimanipulasi menggunakan AI sehingga tampak berada dalam situasi seksual dan kemudian disebarkan di internet.
Konten tersebut dibuat melalui sistem AI generatif dengan memasukkan perintah tertentu yang memungkinkan manipulasi gambar secara cepat dan realistis. Setelah kasus ini mencuat ke publik, korban melaporkan beberapa akun anonim yang diduga memproduksi dan menyebarkan gambar tersebut kepada kepolisian.
Peristiwa ini sebenarnya bukan fenomena yang berdiri sendiri. Di Jepang pada 2025, aparat kepolisian menangkap seorang pria yang memproduksi dan menjual konten pornografi berbasis deepfake menggunakan wajah idol dan aktris populer.
Penangkapan tersebut menjadi salah satu kasus pertama yang secara eksplisit menindak produksi pornografi berbasis AI. Di Korea Selatan, sejumlah investigasi juga menemukan jaringan digital yang memproduksi deepfake seksual menggunakan foto perempuan dari media sosial, termasuk mahasiswa dan figur publik.
Di Amerika Serikat dan Inggris, banyak selebritas perempuan mulai dari aktor hingga penyanyi juga menjadi korban manipulasi visual yang kemudian beredar luas di berbagai platform digital.
Rangkaian kasus tersebut menunjukkan bahwa penyalahgunaan AI bukan sekadar fenomena lokal, melainkan bagian dari masalah global dalam tata kelola teknologi digital. Teknologi AI generatif memungkinkan produksi konten manipulatif secara cepat dan masif.
Jika sebelumnya manipulasi gambar memerlukan keterampilan teknis yang rumit, kini seseorang dapat membuat gambar yang sangat realistis hanya dengan memasukkan perintah teks sederhana.
Fenomena ini juga memperlihatkan bahwa teknologi tidak pernah benar-benar netral. Dalam masyarakat yang masih dipengaruhi oleh budaya patriarki, tubuh perempuan sering kali diposisikan sebagai objek visual yang dapat dikonsumsi dan dikendalikan. Ketika teknologi baru hadir, pola tersebut tidak hilang.
Sebaliknya, teknologi justru dapat mempercepat reproduksi pola lama tersebut dalam bentuk yang lebih canggih. AI tidak menciptakan objektifikasi perempuan, tetapi ia menyediakan alat yang membuat objektifikasi itu menjadi lebih luas dan lebih sulit dikendalikan.
Regulasi Tertinggal, Hak Warga Negara DipertaruhkanKasus manipulasi visual berbasis AI memperlihatkan adanya ketimpangan antara perkembangan teknologi global dan kesiapan regulasi negara. Sebagian besar sistem AI generatif dikembangkan oleh perusahaan teknologi internasional yang produknya dapat digunakan oleh masyarakat di berbagai negara. Namun mekanisme pengawasan terhadap penggunaan teknologi tersebut sering kali sangat terbatas.
Dalam konteks Indonesia, perangkat hukum seperti Undang-Undang Informasi dan Transaksi Elektronik memang dapat digunakan untuk menjerat pelaku manipulasi data elektronik. Namun dalam praktiknya, penegakan hukum terhadap kasus deepfake menghadapi banyak kendala.
Pelaku sering menggunakan identitas anonim, server penyimpanan data berada di luar yurisdiksi nasional, dan konten dapat menyebar sangat cepat sebelum aparat hukum sempat menanganinya.
Situasi ini menunjukkan bahwa perlindungan warga negara di ruang digital tidak dapat hanya bergantung pada pendekatan hukum setelah kejadian terjadi. Yang dibutuhkan adalah tata kelola teknologi yang lebih komprehensif, termasuk tanggung jawab platform digital dalam mencegah penyalahgunaan AI serta sistem deteksi manipulasi visual yang lebih kuat.
Lebih jauh lagi, manipulasi seksual berbasis AI menyentuh isu hak asasi manusia yang sangat mendasar, yaitu hak atas martabat dan integritas pribadi. Ketika gambar seseorang dimanipulasi menjadi konten seksual tanpa persetujuannya, yang dirusak bukan hanya citra digitalnya, tetapi juga reputasi sosial, kesehatan psikologis, dan rasa aman seseorang di ruang publik.
Dalam banyak kasus, korban juga menghadapi stigma sosial yang tidak adil. Meskipun gambar tersebut merupakan hasil manipulasi digital, masyarakat sering kali tetap mempertanyakan korban. Hal ini menunjukkan bahwa kekerasan digital tidak hanya terjadi pada level teknologi, tetapi juga berkaitan dengan struktur sosial yang lebih luas.
Melihat fenomena deepfake pornografi dari perspektif kritis memperlihatkan bahwa persoalan ini bukan sekadar masalah teknologi atau kriminalitas individual. Ia berkaitan dengan hubungan antara teknologi, kekuasaan digital, dan perlindungan warga negara.
Ketika teknologi berkembang tanpa mekanisme pengawasan yang memadai, kelompok yang sudah rentan dalam struktur sosial terutama perempuan sering menjadi pihak yang paling terdampak.
Implikasinya sangat luas. Negara perlu memperkuat regulasi mengenai penggunaan AI dan manipulasi digital agar mampu melindungi warga dari penyalahgunaan teknologi. Platform teknologi harus memiliki tanggung jawab lebih besar dalam mencegah penyalahgunaan sistem AI mereka.
Di sisi lain, masyarakat juga memerlukan literasi digital yang lebih kuat agar mampu memahami risiko teknologi baru dan tidak ikut menyebarkan konten yang merugikan orang lain.
Perkembangan kecerdasan buatan pada akhirnya bukan hanya menghadirkan pertanyaan tentang kemampuan teknologi, tetapi juga tentang nilai yang dipertahankan dalam masyarakat.
Tanpa kerangka etika dan perlindungan hukum yang kuat, teknologi yang seharusnya membantu manusia justru dapat menjadi alat baru untuk merendahkan martabat manusia.
Di era AI, perjuangan menjaga martabat warga negara kini juga berlangsung di ruang digital. Panjang umur perjuangan !
