China Perketat Aturan AI, Soroti Risiko Psikologis Pengguna

regulator mengatur pendekatan pengawasan yang mewajibkan penyedia layanan untuk memberikan peringatan kepada pengguna terkait penggunaan berlebihan.

IDXChannel - Regulator siber China menerbitkan rancangan aturan guna memperketat pengawasan terhadap layanan kecerdasan buatan (artificial intelligence/AI) yang dirancang meniru kepribadian manusia dan berinteraksi secara emosional dengan pengguna.

Langkah ini menegaskan upaya Beijing dalam mengarahkan pengembangan dan pemanfaatan AI yang menyasar konsumen, seiring pesatnya pertumbuhan teknologi tersebut, melalui penguatan standar keselamatan dan etika.

Melansir Reuters, Minggu (28/12/2025), aturan yang diusulkan akan berlaku bagi produk dan layanan AI yang ditawarkan kepada publik di China, yang berinteraksi secara emosional dengan pengguna melalui teks, gambar, audio, video, atau sarana lainnya.

Dalam rancangan tersebut, regulator mengatur pendekatan pengawasan yang mewajibkan penyedia layanan untuk memberikan peringatan kepada pengguna terkait penggunaan berlebihan, serta melakukan intervensi apabila pengguna menunjukkan tanda-tanda kecanduan.

Berdasarkan usulan tersebut, penyedia layanan juga dibebankan tanggung jawab keselamatan sepanjang siklus hidup produk, serta membangun sistem peninjauan algoritma, keamanan data, dan perlindungan informasi pribadi.

Rancangan aturan ini turut menyoroti potensi risiko psikologis. Penyedia layanan diharapkan mampu mengidentifikasi kondisi pengguna, menilai emosi mereka, serta tingkat ketergantungan terhadap layanan. 

Apabila pengguna terdeteksi menunjukkan emosi ekstrem atau perilaku adiktif, penyedia diwajibkan mengambil langkah-langkah intervensi yang diperlukan.

Selain itu, aturan tersebut menetapkan batasan tegas terkait konten dan perilaku, dengan menegaskan bahwa layanan AI dilarang menghasilkan konten yang membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan maupun pornografi.

(NIA DEVIYANA)