OpenAI resmi menghadirkan fitur baru di ChatGPT yang mampu memprediksi usia pengguna. Langkah ini diambil sebagai upaya melindungi pengguna anak dan remaja, di tengah meningkatnya kekhawatiran soal dampak kecerdasan buatan (artificial intelligence/AI) terhadap generasi muda.
Dalam keterangan resminya, OpenAI menyebut fitur “age prediction” ini dirancang untuk membantu mengidentifikasi pengguna di bawah umur, sekaligus menerapkan pembatasan konten yang lebih ketat dan masuk akal dalam percakapan mereka.
Belakangan ini OpenAI kerap menjadi sorotan terkait dampak ChatGPT pada anak-anak. Sejumlah kasus bunuh diri remaja dilaporkan memiliki keterkaitan dengan interaksi bersama chatbot tersebut.
Tak hanya itu, seperti penyedia AI lainnya, OpenAI juga menuai kritik karena ChatGPT sempat memungkinkan diskusi bertema seksual dengan pengguna muda. Pada April tahun lalu, perusahaan bahkan harus menambal bug yang membuat ChatGPT bisa menghasilkan konten erotis untuk pengguna di bawah usia 18 tahun.
OpenAI menegaskan penanganan pengguna di bawah umur sebenarnya sudah lama menjadi fokus perusahaan. Fitur prediksi usia ini disebut hanya memperkuat sistem perlindungan yang sebelumnya sudah diterapkan.
Dilansir TechCrunch, OpenAI menjelaskan bahwa fitur baru ini memanfaatkan algoritma AI untuk menilai sejumlah sinyal perilaku dan akun guna mengidentifikasi pengguna muda. Sinyal tersebut mencakup usia yang dinyatakan pengguna, lamanya akun dibuat, hingga pola waktu akun tersebut aktif.
Jika sistem memprediksi sebuah akun dimiliki oleh pengguna di bawah usia 18 tahun, maka filter konten akan otomatis diterapkan. Filter ini dirancang untuk menyaring topik sensitif seperti seks, kekerasan, dan pembahasan lain yang dianggap tidak pantas untuk anak dan remaja.
Meski begitu, OpenAI juga menyiapkan mekanisme koreksi jika terjadi kesalahan. Apabila seorang pengguna dewasa keliru dikategorikan sebagai di bawah umur, mereka dapat memulihkan status akun dewasa dengan melakukan verifikasi identitas. Caranya, pengguna diminta mengirimkan swafoto (selfie) melalui mitra verifikasi identitas OpenAI, Persona.
