Dalam forum “AI, Risk and Regulation: Navigating Deepfake Challenges in Indonesia's Digital Economy” yang digelar bersama Asosiasi Fintech Indonesia di Jakarta, Advance.AI mengungkap bahwa peningkatan layanan onboarding digital di industri keuangan turut memperluas celah serangan bagi pelaku fraud berbasis AI.
Sepanjang akhir 2024 hingga 2025, Indonesia sendiri tercatat mengalami sekitar 274 ribu laporan penipuan keuangan dengan total kerugian masyarakat lebih dari Rp6 triliun. Sebagian besar kasus disebut berkaitan dengan serangan deepfake yang menyasar sistem verifikasi identitas digital.
Advance.AI menjelaskan deepfake memungkinkan pelaku membuat audio, video, maupun gambar sintetis berbasis AI yang mampu meniru identitas seseorang secara meyakinkan.
Kondisi tersebut dinilai semakin berisiko seiring meningkatnya penggunaan layanan digital banking dan pembukaan rekening secara online melalui remote onboarding.
Proses yang awalnya dirancang untuk memperluas inklusi keuangan itu kini disebut ikut membuka permukaan serangan baru yang mulai dieksploitasi secara sistematis oleh pelaku penipuan digital.
Masalahnya, banyak sistem keamanan berbasis aturan konvensional dinilai belum dirancang untuk menghadapi ancaman deepfake modern yang terus berkembang. Akibatnya, sektor pembiayaan, fintech, hingga platform pembayaran digital kini menghadapi risiko fraud yang semakin kompleks dan sulit dikenali.
Government Relations Director Advance.AI Indonesia, Entin Rostini, mengatakan pola serangan deepfake di Indonesia saat ini mulai mengikuti tren global.
“Advance.AI telah berada di garis depan dalam menghadapi tantangan deepfake di Asia Tenggara selama beberapa tahun terakhir, dan apa yang kami lihat di Indonesia sejalan dengan pola global, di mana pelaku penipuan bergerak dan beradaptasi lebih cepat dari perkiraan banyak institusi,” ujar Entin Rostini.
Dalam forum yang sama, Otoritas Jasa Keuangan juga menegaskan bahwa verifikasi liveness dan deteksi anomali real-time kini tidak lagi bisa dianggap sebagai fitur tambahan di industri jasa keuangan.
Kepala Departemen Pengaturan dan Pengembangan Perbankan OJK, Indah Iramadhini, mengatakan infrastruktur digital yang selama ini mendorong inklusi keuangan kini ikut menjadi sasaran penipuan berbasis AI yang semakin canggih.
“OJK sangat memahami bahwa infrastruktur digital yang selama ini mendorong kemajuan signifikan inklusi keuangan di Indonesia kini menjadi sasaran penipuan berbasis AI yang semakin canggih,” ujar Indah Iramadhini.
Ia menambahkan OJK kini mengharapkan lembaga jasa keuangan menerapkan autentikasi berlapis, verifikasi liveness yang kuat, serta deteksi anomali secara real-time sebagai kebutuhan operasional utama.
Selain itu, regulator juga disebut tengah menyiapkan panduan tata kelola AI yang lebih konkret dengan fokus menjaga keseimbangan antara inovasi dan perlindungan konsumen. Ancaman deepfake menjadi salah satu prioritas utama dalam pengembangan regulasi tersebut.
Teknologi Pencegahan Deepfake Disebut Sudah Siap Dalam forum tersebut, Advance.AI turut memaparkan tren penipuan deepfake terbaru di Asia Tenggara sekaligus solusi verifikasi identitas berbasis AI yang disebut sudah digunakan di berbagai pasar regional.
Menurut Entin, teknologi untuk mendeteksi dan mencegah serangan deepfake sebenarnya sudah tersedia dan cukup matang untuk diterapkan.
“Kabar baiknya, teknologi untuk mendeteksi dan mencegah serangan deepfake sudah tersedia dan telah matang. Tantangannya adalah bagaimana menerapkannya dalam skala besar serta mengintegrasikannya ke seluruh proses onboarding dan pemantauan transaksi,” kata Entin Rostini.
Advance.AI menilai implementasi teknologi verifikasi identitas, autentikasi berlapis, hingga deteksi anomali real-time kini menjadi kebutuhan penting di industri jasa keuangan digital.
Selain teknologi, Advance.AI dan AFTECH juga menilai penanganan ancaman AI generatif membutuhkan koordinasi lintas ekosistem.
Sekretaris Jenderal AFTECH, Firlie Ganinduto, mengatakan setiap institusi memiliki tingkat kesiapan teknologi dan profil risiko yang berbeda sehingga strategi mitigasi perlu dirancang secara adaptif sesuai karakteristik bisnis masing-masing.
“Kami meyakini bahwa kolaborasi sinergis antara asosiasi, regulator, penyedia solusi teknologi, dan seluruh pemangku kepentingan industri menjadi faktor kunci dalam membangun ekosistem ekonomi digital yang inovatif namun tetap tangguh terhadap ancaman siber,” ujar Firlie.
Forum tersebut juga membahas empat pendekatan utama menghadapi ancaman deepfake, mulai dari penguatan regulasi, implementasi teknologi deteksi, koordinasi lintas ekosistem, hingga studi kasus implementasi pencegahan fraud di industri perbankan.
Cek Berita dan Artikel yang lain di
Google News
(MMI)
