Jakarta (ANTARA) - Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menilai penyalahgunaan kecerdasan buatan (AI) melalui teknologi "deepfake" menjadi salah satu tantangan etis dan keamanan digital yang perlu diantisipasi secara serius karena berpotensi meningkatkan ancaman penipuan digital.
Teknologi "deepfake" memungkinkan pembuatan video, gambar, maupun suara palsu yang menyerupai aslinya sehingga semakin sulit dibedakan dari kenyataan.
"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk 'deepfake' video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, Rabu.
Menurut Nezar, perkembangan kecerdasan buatan saat ini berlangsung sangat cepat, bahkan telah melampaui fase kecerdasan buatan generatif (generative AI) menuju kecerdasan buatan otonom (agentic AI) dan berbagai teknologi baru lainnya.
Perkembangan tersebut membawa manfaat besar bagi berbagai sektor, tetapi pada saat yang sama juga memunculkan risiko-risiko baru yang memerlukan perhatian serius.
Dalam aspek keamanan siber, ia menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan dengan memanfaatkan teknologi "deepfake".
Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai realitas sintetik (synthetic reality), yaitu konten hasil rekayasa digital yang semakin sulit dibedakan dari kenyataan.
Ia menilai rendahnya literasi masyarakat mengenai perkembangan AI membuat banyak orang mudah terkecoh oleh konten hasil manipulasi tersebut.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya 'scam' saat ini luar biasa," ujarnya.
Nezar juga mengingatkan pentingnya keterlibatan manusia dalam proses pengambilan keputusan (human in the loop) pada pengembangan kecerdasan buatan otonom yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara mandiri (decision making).
Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada dalam pengawasan manusia.
"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip 'human in the loop' dalam 'decision making'," jelasnya.
Lebih lanjut, ia menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan (ethics by design).
Karena itu, Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," katanya menegaskan.
Baca juga: YLKI dorong sistem penyelesaian sengketa digital terintegrasi via ODR
Baca juga: Kemkomdigi-POLRI kolaborasi percepat penindakan kejahatan digital
Baca juga: Perusahaan teknologi bentuk koalisi untuk berantas penipuan daring
Teknologi "deepfake" memungkinkan pembuatan video, gambar, maupun suara palsu yang menyerupai aslinya sehingga semakin sulit dibedakan dari kenyataan.
"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk 'deepfake' video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam acara Indonesia Ethical AI Summit di Jakarta, Rabu.
Menurut Nezar, perkembangan kecerdasan buatan saat ini berlangsung sangat cepat, bahkan telah melampaui fase kecerdasan buatan generatif (generative AI) menuju kecerdasan buatan otonom (agentic AI) dan berbagai teknologi baru lainnya.
Perkembangan tersebut membawa manfaat besar bagi berbagai sektor, tetapi pada saat yang sama juga memunculkan risiko-risiko baru yang memerlukan perhatian serius.
Dalam aspek keamanan siber, ia menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan penipuan dengan memanfaatkan teknologi "deepfake".
Menurutnya, hasil manipulasi berbasis AI kini telah berkembang menjadi apa yang disebut sebagai realitas sintetik (synthetic reality), yaitu konten hasil rekayasa digital yang semakin sulit dibedakan dari kenyataan.
Ia menilai rendahnya literasi masyarakat mengenai perkembangan AI membuat banyak orang mudah terkecoh oleh konten hasil manipulasi tersebut.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya 'scam' saat ini luar biasa," ujarnya.
Nezar juga mengingatkan pentingnya keterlibatan manusia dalam proses pengambilan keputusan (human in the loop) pada pengembangan kecerdasan buatan otonom yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara mandiri (decision making).
Menurutnya, sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada dalam pengawasan manusia.
"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip 'human in the loop' dalam 'decision making'," jelasnya.
Lebih lanjut, ia menilai pendekatan etika AI tidak lagi cukup bersifat sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan (ethics by design).
Karena itu, Nezar mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," katanya menegaskan.
Baca juga: YLKI dorong sistem penyelesaian sengketa digital terintegrasi via ODR
Baca juga: Kemkomdigi-POLRI kolaborasi percepat penindakan kejahatan digital
Baca juga: Perusahaan teknologi bentuk koalisi untuk berantas penipuan daring
