Jakarta: Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan kecerdasan buatan (AI) melalui teknologi deepfake menjadi salah satu tantangan etis dan keamanan digital yang perlu diantisipasi secara serius, karena berpotensi meningkatkan ancaman penipuan digital. Teknologi deepfake memungkinkan pembuatan video, gambar, maupun suara palsu yang menyerupai aslinya, sehingga semakin sulit dibedakan dari kenyataan.
"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk 'deepfake' video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, dilansir dari Antara, Rabu, 17 Juni 2026.
Menurut Nezar, perkembangan kecerdasan buatan berlangsung sangat cepat, bahkan melampaui fase kecerdasan buatan generatif (generative AI) menuju kecerdasan buatan otonom (agentic AI) dan berbagai teknologi baru lainnya. Perkembangan tersebut membawa manfaat besar bagi berbagai sektor, tapi juga memunculkan risiko baru yang memerlukan perhatian serius.
Dia mengatakan dalam aspek keamanan siber, AI dapat dimanfaatkan pelaku kejahatan digital untuk menipu orang dengan menggunakan teknologi deepfake. Menurut dia, hasil manipulasi berbasis AI telah berkembang menjadi realitas sintetik (synthetic reality), yaitu konten hasil rekayasa digital yang semakin sulit dibedakan dari kenyataan.
Dia menilai rendahnya literasi masyarakat mengenai perkembangan AI membuat banyak orang mudah terkecoh konten hasil manipulasi tersebut.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya 'scam' saat ini luar biasa," ujar Nezar.
Baca Juga: Kasus Video Deepfake Vulgar SMAN 11 Semarang Naik Penyidikan
Ilustrasi. Medcom
Nezar juga mengingatkan pentingnya keterlibatan manusia dalam proses pengambilan keputusan (human in the loop) pada pengembangan kecerdasan buatan otonom yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara mandiri (decision making). Menurut dia, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada dalam pengawasan manusia.
"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip 'human in the loop' dalam 'decision making'," jelas Nezar.
Dia menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut. Dia menegaskan prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan nyata dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan.
Nezar mendorong pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," kata Nezar.
