Pembicaraan mengenai relasi teknologi kecerdasan buatan atau akal imitasi (AI) dan keamanan siber kian santer beberapa waktu belakangan. Kapabilitas model AI untuk melaksanakan tugas yang berkait dengan keamanan siber pun mengejutkan banyak pihak sekaligus memunculkan kekhawatiran.
Salah satu peristiwa terbaru yang memicu diskusi ihwal AI dan keamanan siber adalah insiden yang menimpa platform pembuatan video berbasis AI bernama varg.ai. Pendiri varg.ai, Alex Varga, membagikan cerita mengenai kasus tersebut di media sosial X pada Rabu (29/7/2026).
Dalam utas di akun X miliknya, Varga mengatakan, peristiwa itu bermula dari penyalahgunaan kredit application programming interface (API) gratis di varg.ai. Menurut dia, pelaku membuat 118 akun di varg.ai, lalu mengklaim kredit gratis sebesar 5 dolar AS per akun. Oleh karena itu, total kredit yang diklaim oleh pelaku mencapai 590 dolar AS.
Setelah menyadari insiden itu, Varga lalu menggunakan model AI open weight atau berbobot terbuka bernama GLM 5.2 untuk menyelidiki masalah itu. Dia meminta model yang dikembangkan perusahaan AI asal China, Z.ai, tersebut untuk menghilangkan fasilitas kredit gratis di platform varg.ai dan menyelidiki bagaimana pelaku bisa membuat banyak akun sekaligus dalam waktu berdekatan.
Tak berhenti sampai di situ, GLM 5.2 yang dijalankan melalui platform Devin sebagai harness atau sistem pengendali kemudian melacak jejak pelaku penyalahgunaan tersebut. Dari proses itu, GLM 5.2 berhasil mengidentifikasi sejumlah alamat e-mail yang digunakan oleh pelaku untuk membuat banyak akun.
Model AI itu juga melacak alamat protokol internet atau IP address dari pelaku. IP address adalah nomor unik yang diberikan kepada setiap perangkat yang terhubung ke internet atau jaringan komputer. Dari 118 akun yang dibuat oleh pelaku, sebanyak 115 akun di antaranya berasal dari satu IP address yang berlokasi di salah satu provinsi di Indonesia.
Tak hanya itu, model AI tersebut bahkan menemukan sejumlah data lain, seperti dua nomor Whatsapp, alamat website beserta data hosting website itu, hingga proyek di Supabase dan Lovable yang diduga milik pelaku. Supabase adalah platform layanan backend, sedangkan Lovable adalah platform pengembangan aplikasi berbasis AI.
Dari data itu, dugaan pelaku berasal dari Indonesia pun menguat karena dua nomor Whatsapp yang diidentifikasi oleh GLM 5.2 memakai awalan +62 yang merupakan kode negara Indonesia. Selain itu, alamat website yang diduga milik pelaku juga menggunakan bahasa Indonesia.
Sesudah data terkumpul, GLM 5.2 lalu mengirim laporan ke sejumlah pihak, termasuk Supabase dan Lovable, mengenai kasus itu. Beberapa waktu kemudian, kata Varga, website yang diduga dibuat pelaku di platform Lovable pun di-take down sehingga tak bisa lagi diakses.
Varga mengatakan, proses pelacakan yang dilakukan GLM 5.2 itu hanya membutuhkan waktu 18 menit dan biaya 0,30 dolar AS. Hal ini menunjukkan, model AI tersebut mampu melakukan tugas kompleks dalam waktu relatif cepat dan biaya sangat murah.
Yang menarik, Varga mengaku sempat meminta model AI dari Anthropic untuk melakukan tugas serupa. Namun, model AI yang dikembangkan perusahaan AI asal AS itu menolak menjalankan tugas tersebut.
Utas yang dibuat Varga itu lalu memantik tanggapan dari banyak pihak, termasuk pengguna media sosial dari Indonesia. Namun, sekitar sehari kemudian, Varga menghapus unggahan mengenai kasus tersebut.
”Maaf untuk hal itu (penghapusan postingan), saya mendapat terlalu banyak perhatian yang tidak diinginkan,” kata Varga melalui X soal alasan penghapusan postingan itu. Meski begitu, dia menyebut, cerita yang disampaikannya itu adalah peristiwa nyata.
Pengecekan yang dilakukan Kompas juga mendukung klaim Varga karena alamat website yang diduga milik pelaku ternyata benar-benar di-take down oleh Lovable.
Kasus yang dikisahkan Varga kemudian memantik diskusi mengenai praktik penyalahgunaan kredit API gratis yang kerap terjadi serta kemampuan model AI dalam menjalankan tugas terkait keamanan siber.
Dosen Teknologi Informasi Institut Teknologi Tangerang Selatan (ITTS), Agung Budi Prasetio, mengatakan, penyalahgunaan kredit API gratis merupakan bentuk penipuan digital yang sudah lama terjadi. Praktik ini biasanya dikenal dengan istilah promo abuse, yakni memanfaatkan skema kredit gratis atau bonus pendaftaran dengan membuat akun massal.
Menurut Agung, praktik itu marak terjadi karena tiga hal. Pertama, ada nilai ekonomi nyata yang bisa didapat dari kredit gratis itu. Kedua, biaya untuk membuat akun palsu sangat murah dan mudah diotomatisasi. Ketiga, kontrol keamanan platform seringkali minim dan hanya mengandalkan verifikasi email tanpa pembatasan berbasis perangkat atau jaringan.
Agung menambahkan, dalam kasus varg.ai, sebagian tugas yang dijalankan oleh GLM 5.2 memang berkait dengan keamanan siber, terutama dalam aspek defensif. ”Mendeteksi pola akun palsu, mengorelasikan metadata, menemukan celah teknis di sistem sendiri, itu murni kerja forensik keamanan siber yang lazim dilakukan tim incident response,” katanya.
Namun, Agung menyebut, aktivitas di tahap berikutnya, seperti menelusuri nomor Whatsapp, domain atau alamat website, dan detail hosting pribadi seseorang di luar sistem miliknya sendiri, bukan merupakan aktivitas keamanan siber defensif.
Aktivitas itu lebih tepat digolongkan sebagai open source intelligence (OSINT). Secara tradisional, kata Agung, aktivitas tersebut adalah domain penegak hukum, bukan pekerjaan rutin tim keamanan aplikasi. ”GLM-5.2 di sini bertindak sebagai agentic OSINT tool yang sangat efektif, bukan pure defensive tool,” ujarnya.
Saat ditanya apakah kejadian ini menunjukkan bahwa AI makin andal menjalankan tugas keamanan siber, Agung mengatakan, peristiwa itu hanya didasarkan pada klaim sepihak tanpa verifikasi independen. Oleh karena itu, semua pihak perlu hati-hati menjadikan peristiwa tersebut sebagai bukti kemampuan AI dalam menjalankan tugas keamanan siber.
Meski begitu, Agung mengakui, kapabilitas teknis model AI dalam menganalisis kerentanan memang meningkat pesat. Menurut dia, hal itu juga terlihat dari insiden di platform Hugging Face baru-baru ini, di mana model AI dari OpenAI menjadi pelaku serangan siber otonom pertama yang terdokumentasi.
”Jadi lebih tepat dikatakan model AI makin ’mampu’ secara teknis, tetapi ’andal’ dalam arti aman dan terkendali itu masih jauh,” ungkapnya.
Agung juga mengingatkan, kapabilitas model AI menjalankan tugas keamanan siber defensif bisa menimbulkan risiko apabila model tersebut disalahgunakan untuk melakukan serangan siber. ”Kapabilitas yang sama yang membuat model piawai bertahan adalah kapabilitas yang bisa membuatnya berbahaya bila lolos kendali atau disalahgunakan,” ungkapnya.
Oleh karena itu, Agung menyebut, penggunaan AI untuk keamanan siber perlu diatur dengan sejumlah prinsip dasar. Prinsip pertama, harus ada batas yang jelas antara kerja forensik siber yang sah dengan deanonimisasi atau pengungkapan identitas pihak ketiga.
Kedua, operator yang menjalankan model open weight tanpa kebijakan penggunaan bawaan harus bertanggung jawab penuh secara hukum mengenai cara model itu dipakai. Ketiga, ada kewajiban untuk melaporkan insiden ke otoritas resmi, misalnya Badan Siber dan Sandi Negara (BSSN) serta kepolisian, daripada melakukan penyelesaian sepihak.
Keempat, harus ada jejak audit yang bisa ditelusuri dan keterlibatan manusia sebelum tindakan berdampak besar dieksekusi oleh agen AI otonom. Hal ini karena agen AI tersebut terbukti bisa bertindak di luar instruksi seperti pada kasus Hugging Face.
