Menagih Transparansi AI Pemerintah: Dari Dashboard hingga Logika Algoritma

Kecerdasan artifisial (AI) perlahan tapi pasti telah masuk ke ruang-ruang pengambilan keputusan publik di Indonesia. Dari sistem seleksi bantuan sosial, pemeringkatan risiko kepatuhan pajak, analisis kemacetan lalu lintas, hingga dashboard kinerja pemerintahan berbasis data, algoritma kini ikut menentukan siapa mendapat apa, di mana, dan kapan.

Pemerintah menyebutnya sebagai lompatan menuju birokrasi cerdas dan pelayanan publik presisi. Namun, pertanyaannya: Sejauh mana publik mengetahui, memahami, dan dapat mengawasi cara kerja AI yang digunakan negara?

Masalahnya bukan pada penggunaan AI itu sendiri. Dalam negara dengan kompleksitas sosial dan geografis seperti Indonesia, pemanfaatan AI justru hampir tak terelakkan.

Persoalannya adalah ketika teknologi yang memengaruhi hak warga dijalankan tanpa transparansi yang memadai, negara berisiko mengganti problem birokrasi lama dengan problem baru yang lebih sulit dilacak: diskriminasi algoritmik, bias data, dan pengambilan keputusan tanpa akuntabilitas.

Sebagai analis, saya mengambil posisi tegas bahwa AI pemerintah tanpa transparansi bukan inovasi, melainkan ancaman laten bagi demokrasi administratif.

Dalam beberapa tahun terakhir, pemerintah pusat dan daerah berlomba membangun dashboard digital. Kita mengenal dashboard kinerja, command center, hingga sistem pengambilan keputusan berbasis machine learning. Secara visual, semuanya tampak menjanjikan: grafik interaktif, peta panas, dan indikator real-time. Transparansi seolah hadir dalam bentuk angka dan tampilan.

Namun, transparansi sejati tidak berhenti pada visualisasi output. Yang justru absen adalah transparansi proses. Publik dapat melihat hasil rekomendasi sistem, tetapi tidak mengetahui bagaimana data dipilih, variabel apa yang diprioritaskan, bobot apa yang digunakan, dan asumsi apa yang ditanamkan dalam algoritma. Dashboard menjelaskan apa yang terjadi, tetapi menyembunyikan mengapa itu terjadi.

Ambil contoh sistem penargetan bantuan sosial berbasis data terpadu. Berkali-kali publik menyaksikan masalah klasik, warga miskin tidak terdaftar, sementara yang relatif mampu justru menerima bantuan. Pemerintah sering menyebutnya sebagai kesalahan data.

Padahal dalam sistem berbasis AI, kesalahan bukan hanya soal data mentah, melainkan juga soal logika algoritmik, bagaimana sistem belajar dari data lama yang bias, atau bagaimana indikator kemiskinan didefinisikan secara sempit dan tidak kontekstual.

Di sinilah masalah utamanya: AI memberi ilusi objektivitas. Keputusan yang dihasilkan mesin dianggap netral, ilmiah, dan bebas kepentingan. Padahal, setiap algoritma adalah produk kebijakan, ia memuat nilai, prioritas, dan pilihan politik yang sering kali tidak disadari publik.

Lebih mengkhawatirkan lagi, sebagian besar sistem AI pemerintah dikembangkan melalui kerja sama dengan vendor teknologi. Kontrak pengadaan sering menempatkan algoritma sebagai black box dengan dalih rahasia dagang.

Negara membeli sistem, menggunakan rekomendasinya, tetapi tidak sepenuhnya menguasai logika di baliknya. Dalam kondisi ini, akuntabilitas kebijakan publik bergeser dari pejabat publik ke kode yang tidak pernah diuji secara demokratis.

Transparansi AI bukan isu teknis semata; ia adalah isu kekuasaan. Ketika algoritma digunakan untuk menentukan prioritas pengawasan, penyaluran bantuan, atau penilaian kinerja, AI berfungsi sebagai gatekeeper atas hak dan sumber daya publik. Tanpa transparansi, warga tidak memiliki mekanisme untuk menggugat keputusan yang merugikan mereka.

Di banyak negara, perdebatan tentang algorithmic accountability telah mengemuka. Uni Eropa, misalnya, mendorong prinsip explainable AI dan hak warga untuk mendapatkan penjelasan atas keputusan otomatis. Indonesia—meski telah memiliki Undang-Undang Perlindungan Data Pribadi dan Strategi Nasional AI—masih lemah dalam aspek ini. Regulasi kita lebih banyak bicara soal etika dan inovasi, tetapi minim pada kewajiban keterbukaan algoritma dalam sektor publik.

Kondisi ini berbahaya dalam konteks demokrasi prosedural Indonesia. Kita memiliki mekanisme pengawasan anggaran, audit kinerja, dan keterbukaan informasi publik. Namun, AI berpotensi menciptakan ruang gelap kebijakan wilayah pengambilan keputusan yang tidak tersentuh audit konvensional karena bersembunyi di balik kompleksitas teknis.

Jika dibiarkan, AI bisa memperkuat bias struktural yang sudah ada. Wilayah yang selama ini tertinggal bisa terus dinilai berisiko tinggi oleh algoritma berbasis data historis. Kelompok rentan bisa terpinggirkan karena tidak terbaca secara statistik. Dan yang paling problematik, semua itu terjadi tanpa aktor manusia yang bisa dimintai pertanggungjawaban secara jelas.

Maka, narasi bahwa AI meningkatkan efisiensi harus dilengkapi dengan pertanyaan normatif, efisiensi untuk siapa, dan dengan risiko apa. Tanpa transparansi, efisiensi bisa berubah menjadi alat eksklusi yang halus, tapi sistemik.

Menagih transparansi AI pemerintah bukan berarti menolak teknologi. Justru sebaliknya, ini adalah upaya memastikan teknologi bekerja untuk kepentingan publik. Beberapa langkah kebijakan mendesak perlu diambil.

Pertama, wajibkan transparansi algoritmik untuk sistem AI sektor publik. Setiap penggunaan AI yang berdampak pada hak warga harus disertai dokumentasi terbuka, tujuan sistem, jenis data yang digunakan, variabel utama, dan batasan dan potensi biasnya. Tidak semua kode harus dibuka, tetapi logika kebijakan di balik algoritma harus dapat diaudit.

Kedua, bangun mekanisme audit algoritma independen. Audit ini berbeda dari audit keuangan. Ia harus melibatkan pakar data, analis kebijakan, dan perwakilan publik untuk menilai keadilan, akurasi, dan dampak sosial sistem AI pemerintah.

Ketiga, tegaskan hak warga untuk mendapatkan penjelasan dan keberatan. Jika keputusan administratif diambil atau direkomendasikan oleh AI, warga harus memiliki hak untuk mengetahui dasar keputusannya dan mengajukan koreksi melalui mekanisme yang jelas dan mudah diakses.

Kemudian, perkuat kapasitas internal pemerintah. Negara tidak boleh sepenuhnya bergantung pada vendor. Pengembangan AI harus disertai transfer pengetahuan dan penguatan talenta analis data serta analis kebijakan di birokrasi agar negara memahami sistem yang digunakannya sendiri.

Terakhir, integrasikan transparansi AI ke dalam kebijakan keterbukaan informasi publik. AI bukan wilayah teknis eksklusif, melainkan bagian dari proses pemerintahan yang harus tunduk pada prinsip akuntabilitas demokratis.

Indonesia sedang berada di persimpangan penting. AI bisa menjadi alat untuk memperbaiki kualitas kebijakan publik secara signifikan. Namun tanpa transparansi, ia berisiko menciptakan birokrasi yang lebih cepat, tetapi juga lebih gelap.

Menagih transparansi AI pemerintah dari dashboard hingga logika algoritma bukan sikap anti-teknologi, melainkan tuntutan agar negara tetap bisa dipertanggungjawabkan di era algoritma.