Perkembangan Artificial Intelligence (AI) di Indonesia tidak lagi terbatas pada sektor industri maupun bisnis. Pemerintah mulai mengintegrasikan AI dalam transformasi digital melalui pemanfaatan teknologi face recognition pada sistem Electronic Traffic Law Enforcement (ETLE) Nasional yang dikembangkan Korps Lalu Lintas (Korlantas) Polri, verifikasi biometrik pada layanan keimigrasian yang diterapkan Direktorat Jenderal Imigrasi, serta berbagai sistem pendukung pengambilan keputusan (decision support system) di sektor publik.
Pemanfaatan tersebut menjanjikan efisiensi, kecepatan, dan akurasi yang lebih baik. Namun, semakin besar peran AI dalam mempengaruhi proses identifikasi maupun pengambilan keputusan, semakin besar pula risiko apabila sistem menghasilkan keputusan yang keliru atau bias, maka muncul satu persoalan mendasar dalam sistem hukum Indonesia: siapa yang bertanggung jawab apabila keputusan yang melibatkan AI ternyata keliru dan merugikan masyarakat?
Urgensi persoalan tersebut semakin terlihat ketika pemerintah tengah menyusun Peraturan Presiden (Perpres) tentang Tata Kelola AI sebagai kerangka kebijakan nasional. Bahkan, Wakil Menteri Komunikasi dan Digital Nezar Patria, saat menerima audiensi startup teknologi hukum Justisio di Jakarta pada 27 Juli 2026, menyatakan bahwa Perpres tersebut akan menjadi test case sebelum Indonesia memiliki Undang-Undang AI.
Pernyataan tersebut menunjukkan bahwa Perpres diposisikan sebagai langkah awal menuju pembentukan Undang-Undang AI. Namun, apabila Perpres nantinya hanya mengatur prinsip etika dan tata kelola tanpa mengatur mekanisme pertanggungjawaban hukum secara jelas, regulasi tersebut berpotensi belum mampu menjawab persoalan yang paling mendasar, yaitu siapa yang bertanggung jawab ketika keputusan berbasis AI menimbulkan kerugian bagi masyarakat.
Dalam persoalan ini, penting untuk membedakan penggunaan AI sebagai alat bantu pengambilan keputusan (decision support system) dengan AI yang digunakan dalam pengambilan keputusan otomatis (automated decision-making). Pada penggunaan AI sebagai alat bantu, keputusan akhir tetap berada di tangan manusia.
Oleh karena itu, apabila terjadi kesalahan, tanggung jawab tetap berada pada pejabat atau institusi pengambil keputusan. Persoalan yang jauh lebih kompleks muncul ketika AI tidak lagi sekadar memberikan rekomendasi, tetapi secara substantif menentukan atau sangat mempengaruhi hasil akhir suatu keputusan. Dalam kondisi demikian, menjadi tidak jelas apakah tanggung jawab berada pada pengembang AI, penyelenggara sistem elektronik, operator, atau institusi pengguna.
Sayangnya, Indonesia belum memiliki regulasi yang secara khusus mengatur pertanggungjawaban hukum atas penggunaan Artificial Intelligence (AI). Ketika AI dimanfaatkan dalam penyelenggaraan pemerintahan, pengaturannya masih bertumpu pada berbagai regulasi yang bersifat sektoral.
Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan mengatur pertanggungjawaban pejabat dalam pengambilan keputusan administrasi, Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Informasi dan Transaksi Elektronik mengatur penyelenggaraan sistem elektronik, sedangkan Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi mengatur pemrosesan dan pelindungan data pribadi yang menjadi fondasi pengembangan banyak sistem AI.
Namun, ketiga regulasi tersebut belum secara spesifik mengatur pembagian tanggung jawab ketika suatu keputusan yang dihasilkan atau secara substantif dipengaruhi oleh AI menimbulkan kerugian bagi masyarakat, terutama dalam skema automated decision-making. Dengan demikian, persoalan Indonesia bukan semata-mata belum memiliki regulasi AI, melainkan belum memiliki rezim pertanggungjawaban hukum yang secara khusus mengatur penggunaan AI dalam pengambilan keputusan.
Kondisi tersebut menunjukkan bahwa tantangan Indonesia bukan sekadar menyusun regulasi AI, melainkan memastikan regulasi tersebut mampu menjamin akuntabilitas. Sebagai negara hukum sebagaimana ditegaskan dalam Pasal 1 ayat (3) Undang-Undang Dasar Negara Republik Indonesia Tahun 1945 bahwa Indonesia adalah negara hukum.
Salah satu konsekuensinya adalah setiap pelaksanaan kewenangan publik harus memiliki dasar hukum yang jelas dan dapat dimintai pertanggungjawaban. A.V. Dicey melalui konsep Rule of Law juga menegaskan bahwa tidak boleh ada pelaksanaan kekuasaan tanpa dasar hukum yang jelas serta mekanisme pertanggungjawaban. Prinsip tersebut semestinya tetap berlaku meskipun pengambilan keputusan mulai melibatkan teknologi AI.
Indonesia dapat belajar dari EU AI Act, yang menerapkan pendekatan berbasis risiko (risk-based approach) terhadap penggunaan AI. Regulasi tersebut mewajibkan human oversight pada AI berisiko tinggi, menetapkan kewajiban transparansi, serta memperjelas tanggung jawab para pihak yang terlibat dalam pengembangan dan penggunaan AI.
Indonesia tentu tidak harus menyalin seluruh ketentuannya. Namun, pendekatan tersebut menunjukkan bahwa semakin besar dampak AI terhadap hak masyarakat, semakin kuat pula mekanisme akuntabilitas yang harus dibangun.
Oleh karena itu, penyusunan Perpres Tata Kelola AI tidak boleh berhenti pada pembentukan pedoman etika dan tata kelola semata. Perpres perlu menjadi fondasi bagi pembentukan rezim pertanggungjawaban hukum AI yang lebih komprehensif melalui undang-undang, khususnya untuk penggunaan AI pada sektor berisiko tinggi seperti penegakan hukum, pelayanan publik, dan kesehatan.
Regulasi tersebut perlu mengatur pembagian tanggung jawab antara pengembang, operator, penyelenggara sistem elektronik, dan institusi pengguna AI, sekaligus menjamin adanya human oversight, transparansi, serta mekanisme keberatan bagi masyarakat yang dirugikan oleh keputusan berbasis AI. Pada akhirnya, tantangan terbesar Indonesia bukanlah seberapa cepat mengadopsi AI, melainkan seberapa siap hukum memastikan bahwa setiap keputusan yang dipengaruhi AI tetap memiliki pihak yang dapat dimintai pertanggungjawaban.
