Artificial Intelligence, Perlindungan Konsumen, dan Keadilan di Kawasan ASEAN

Perlindungan konsumen saat ini, apakah sudah terlindungi? Saat ini tanpa disadari sebagian besar keputusan konsumsi masyarakat saat ini tidak lagi sepenuhnya lahir dari kehendak mereka sendiri. Produk yang muncul di layar telepon pintar, iklan yang tampil di media sosial, rekomendasi barang yang dianggap "sesuai kebutuhan", hingga harga yang harus dibayar konsumen semakin banyak ditentukan oleh algoritma kecerdasan buatan atau artificial intelligence (AI).

Seorang konsumen di Indonesia dapat membeli barang dari penjual di Bangkok melalui platform yang berkedudukan di Singapura, menggunakan layanan pembayaran dari Malaysia, sementara sistem rekomendasi produk dan penentuan harga dikendalikan oleh algoritma yang dikembangkan di Amerika Serikat atau China.

Perdagangan digital telah menghapus batas geografis. Namun, pada saat yang sama, ia menghadirkan batas baru yang jauh lebih sulit dipahami, yakni batas antara keputusan manusia dan keputusan mesin. Pertanyaannya, siapakah yang bertanggung jawab ketika algoritma merugikan konsumen?

Pertanyaan itu tidak lagi bersifat futuristik. Ia telah menjadi persoalan nyata dalam kehidupan sehari-hari masyarakat ASEAN. Asia Tenggara saat ini merupakan salah satu pusat pertumbuhan ekonomi digital tercepat di dunia. Integrasi ekonomi digital melalui ASEAN Digital Economy Framework Agreement (DEFA) diproyeksikan menjadikan ASEAN sebagai salah satu kekuatan ekonomi digital global pada dekade mendatang. Namun sejarah pembangunan selalu mengajarkan satu hal penting yaitu pertumbuhan ekonomi yang tidak disertai perlindungan hukum yang memadai hampir selalu melahirkan ketimpangan baru.

Demikian pula dengan AI. Tanpa tata kelola yang baik, teknologi yang seharusnya mempermudah kehidupan manusia justru berpotensi memperbesar ketimpangan antara perusahaan digital dan konsumen.

Selama bertahun-tahun, hukum perlindungan konsumen dibangun di atas asumsi adanya ketimpangan informasi antara penjual dan pembeli. Pelaku usaha mengetahui lebih banyak mengenai produk dibandingkan konsumennya. Di era AI, bentuk ketimpangan tersebut berubah secara fundamental.

Kini perusahaan digital tidak hanya mengetahui karakteristik produknya, tetapi juga mengetahui perilaku konsumennya secara sangat rinci. Mereka mengetahui apa yang dicari, apa yang disukai, kapan seseorang cenderung melakukan pembelian, bahkan kapan seseorang berada pada kondisi psikologis yang paling mudah dipengaruhi untuk melakukan transaksi.

Data pribadi telah menjadi minyak baru dalam ekonomi digital. Shoshana Zuboff menyebut fenomena ini sebagai surveillance capitalism, yakni praktik menjadikan pengalaman dan perilaku manusia sebagai bahan baku ekonomi untuk diprediksi, dianalisis, dan diperdagangkan. Dalam sistem seperti itu, konsumen tidak lagi hanya membeli barang dan jasa. Mereka secara bersamaan juga menjadi sumber data yang menghasilkan keuntungan ekonomi bagi perusahaan teknologi.

Ironisnya, sebagian besar konsumen tidak mengetahui seberapa jauh data tersebut digunakan, diproses, dipindahkan lintas negara, bahkan diperjualbelikan. Ketimpangan informasi yang dahulu terjadi antara produsen dan konsumen kini berubah menjadi ketimpangan algoritmik. Perusahaan mengetahui hampir segala sesuatu mengenai konsumennya, sementara konsumen hampir tidak mengetahui apa pun mengenai algoritma yang menentukan berbagai keputusan penting terhadap dirinya.

Salah satu tantangan terbesar penggunaan AI adalah munculnya diskriminasi algoritmik. Dua konsumen dapat memperoleh harga berbeda untuk produk yang sama pada waktu yang sama hanya karena sistem memprediksi kemampuan bayar yang berbeda. Seorang pengguna dapat memperoleh akses kredit lebih cepat dibandingkan pengguna lain bukan karena kemampuan ekonominya lebih baik, melainkan karena pola perilaku digitalnya dianggap lebih menguntungkan oleh sistem.

Diskriminasi semacam ini sering kali tidak terlihat karena tersembunyi di balik kompleksitas teknologi. Tidak ada petugas yang menolak pengajuan konsumen secara langsung. Tidak ada pegawai yang secara eksplisit mengatakan seseorang tidak memenuhi syarat. Yang ada hanyalah keputusan otomatis yang muncul di layar yaitu pengajuan ditolak, transaksi dibatalkan, atau harga berubah.

Algoritma menjadi hakim yang tidak terlihat, tetapi memiliki pengaruh yang sangat besar terhadap kehidupan ekonomi masyarakat. Persoalannya, algoritma bukan subjek hukum. Ia tidak dapat dipanggil ke pengadilan dan tidak dapat dimintai pertanggungjawaban.

Karena itu, tanggung jawab hukum tidak boleh hilang hanya karena keputusan dibuat oleh mesin. Pada akhirnya, tanggung jawab harus tetap berada pada manusia dan korporasi yang merancang, menggunakan, dan memperoleh keuntungan dari penggunaan teknologi tersebut.

Karakter perdagangan digital ASEAN yang bersifat lintas negara memperumit persoalan tersebut. Bayangkan seorang konsumen Indonesia membeli produk dari Thailand melalui platform di Singapura menggunakan sistem pembayaran Malaysia, sementara algoritma yang digunakan dikembangkan oleh perusahaan teknologi di luar ASEAN. Ketika terjadi sengketa, hukum negara mana yang berlaku? Pengadilan mana yang berwenang? Siapa yang harus bertanggung jawab?

Pertanyaan-pertanyaan itu menunjukkan bahwa perlindungan konsumen digital tidak lagi dapat diselesaikan hanya melalui pendekatan hukum nasional. Integrasi ekonomi digital ASEAN membutuhkan integrasi perlindungan hukum yang sama kuatnya.

Selama ini perhatian kawasan lebih banyak diarahkan pada penghapusan hambatan perdagangan, kelancaran arus data, dan peningkatan investasi digital. Padahal integrasi ekonomi tanpa integrasi perlindungan konsumen berpotensi menciptakan ruang abu-abu yang justru dimanfaatkan untuk menghindari tanggung jawab hukum.

ASEAN membutuhkan standar minimum bersama mengenai transparansi algoritma, perlindungan data pribadi, akuntabilitas AI, dan mekanisme penyelesaian sengketa konsumen lintas negara. Berbagai organisasi internasional seperti OECD dan UNESCO memperkenalkan konsep human-centric AI, yakni pendekatan yang menempatkan manusia sebagai pusat dari seluruh pengembangan teknologi.

Prinsip ini sesungguhnya sederhana yaitu teknologi harus melayani manusia, bukan manusia yang menyesuaikan diri terhadap teknologi. Konsumen berhak mengetahui ketika mereka sedang berinteraksi dengan AI. Konsumen berhak memahami dasar pengambilan keputusan otomatis yang memengaruhi dirinya. Konsumen juga berhak meminta peninjauan kembali oleh manusia terhadap keputusan algoritmik yang berdampak signifikan terhadap kehidupannya.

Prinsip-prinsip tersebut sejalan dengan gagasan John F. Kennedy mengenai hak dasar konsumen, yakni hak atas keamanan, hak memperoleh informasi, hak memilih, dan hak untuk didengar. Perbedaannya, apabila pada masa lalu perlindungan tersebut diarahkan pada produk cacat atau informasi yang menyesatkan, maka pada era AI perlindungan itu harus diperluas hingga mencakup keputusan algoritmik.

John Rawls melalui teori justice as fairness mengingatkan bahwa keadilan menuntut perlindungan terhadap pihak yang paling rentan dalam suatu sistem sosial. Dalam ekonomi digital berbasis AI, pihak yang paling rentan itu adalah konsumen yang tidak memahami cara kerja algoritma, tetapi harus menerima seluruh konsekuensi dari keputusan yang dihasilkannya. Negara tidak dapat bersikap netral dalam situasi seperti ini. Hukum harus hadir untuk menciptakan keseimbangan.

Indonesia sebagai negara ekonomi digital terbesar di ASEAN, memiliki peluang besar menjadi pelopor tata kelola AI di kawasan. Namun peluang tersebut hanya akan menjadi kenyataan apabila Indonesia tidak berhenti sebagai pasar bagi teknologi global, melainkan juga menjadi pembentuk standar hukum dan etika penggunaan AI.

Revisi hukum perlindungan konsumen perlu mulai mengakomodasi hak atas penjelasan terhadap keputusan algoritmik (right to explanation), hak atas peninjauan manusia (right to human review), serta kewajiban audit terhadap sistem AI berisiko tinggi.

Penguatan implementasi perlindungan data pribadi juga menjadi prasyarat penting agar masyarakat tidak berubah menjadi sekadar sumber data bagi ekonomi digital global. Pengalaman Uni Eropa melalui EU AI Act menunjukkan bahwa regulasi bukanlah musuh inovasi. Sebaliknya, kepastian hukum justru merupakan fondasi utama tumbuhnya kepercayaan publik terhadap teknologi baru.

Dan dalam ekonomi digital, kepercayaan adalah mata uang yang paling berharga. Keberhasilan ekonomi digital ASEAN tidak akan ditentukan oleh seberapa cepat kawasan ini mengadopsi kecerdasan buatan. Keberhasilannya justru akan diukur dari seberapa efektif kawasan ini memastikan bahwa kecerdasan tersebut tetap bekerja untuk kepentingan manusia.

AI mungkin mampu menggantikan banyak proses pengambilan keputusan manusia. Namun terdapat satu hal yang tidak boleh diserahkan kepada algoritma, yakni tanggung jawab moral dan hukum untuk melindungi manusia itu sendiri. Sebab ukuran keberhasilan teknologi pada akhirnya bukanlah seberapa canggih mesin bekerja, melainkan seberapa aman, adil, dan bermartabat manusia hidup berdampingan dengannya.

Di tengah ambisi ASEAN menjadi pusat ekonomi digital dunia, perlindungan konsumen tidak boleh ditempatkan di pinggir pembangunan teknologi. Ia harus berada di jantungnya. Karena peradaban tidak pernah diukur dari kecerdasan mesin yang berhasil diciptakannya, melainkan dari kemampuannya memastikan bahwa manusia tetap menjadi tujuan utama dari setiap kemajuan teknologi.