UNESCO: AI cenderung setuju dengan pengguna terkait fakta-fakta iklim

antaranews.com
38 menit lalu
Cover Berita
Paris (ANTARA) - Model kecerdasan buatan (AI) dapat menjawab sekitar 90 persen pertanyaan ilmu iklim dengan benar, tetapi cenderung mengabaikan fakta ilmiah yang sudah mapan ketika pengguna menantang tanggapan mereka, menurut sebuah laporan yang dirilis Senin oleh UNESCO.

Para peneliti menguji 15 model bahasa besar (large language model/LLM) dan menemukan bahwa model-model itu umumnya memberikan jawaban yang akurat terhadap pertanyaan-pertanyaan netral terkait ilmu iklim. Namun, ketika para peneliti mempertanyakan jawaban tersebut atau mengemukakan klaim yang terdengar masuk akal tetapi sebenarnya keliru, model-model itu dengan cepat mengubah pendiriannya, papar laporan tersebut.

Laporan itu menggambarkan kecenderungan untuk setuju dengan pengguna ini sebagai "sycophancy" (sikap menyanjung berlebihan untuk menyenangkan pengguna) dan mengaitkannya dengan metode pelatihan yang memberi penghargaan terhadap respons sopan, tidak konfrontatif, dan bersifat memvalidasi.

Studi tersebut juga menemukan bahwa meski model-model AI berkinerja baik dalam mengingat pengetahuan ilmiah yang sudah ada, kemampuan model-model itu untuk menganalisis bukti ilmiah baru masih terbatas. Kinerja model-model tersebut juga bervariasi secara signifikan antarbahasa.

Maria Perez-Ortiz, salah satu penulis laporan tersebut, mengatakan bahwa para pengguna harus sangat berhati-hati saat beralih dari pertanyaan mengenai pengetahuan iklim yang sudah diakui ke pertanyaan mengenai tindakan apa yang seharusnya diambil.





Artikel Asli

Lanjut baca:

thumb
PPPA DKI Buka 14 Posisi Tenaga Ahli dan Pelayanan, Daftar Sampai 18 November
• 1 jam lalumedcom.id
thumb
Nurkholis Mantan Kadis ESDM Jatim Jadi Tersangka Baru Kasus Pungli Izin Tambang
• 9 jam lalusuarasurabaya.net
thumb
BEI dan KPEI Integrasikan SPPA dengan Layanan Repo, Transaksi SUN Makin Efisien
• 18 jam lalukatadata.co.id
thumb
Tragis! Pemuda di Grobogan Tewas Dikeroyok 19 Orang, Diduga Salah Sasaran
• 20 jam lalurctiplus.com
thumb
Ekspor RI Makin Pesat, Pelaku Usaha Perlu Penuhi Sejumlah Aspek untuk Tembus Pasar Global
• 20 jam laluviva.co.id
Berhasil disimpan.