INVESTIGASI terbaru yang dilakukan The Guardian mengungkap temuan mengkhawatirkan terkait fitur AI Overviews milik Google. Meskipun raksasa teknologi tersebut mengklaim ringkasan informasinya "membantu" dan "andal", nyatanya fitur tersebut kedapatan memberikan saran medis yang tidak akurat dan berpotensi mengancam nyawa pengguna.
Sejumlah pakar kesehatan menilai beberapa informasi yang muncul di posisi teratas hasil pencarian Google tersebut sangat membahayakan. Salah satu kasus yang paling fatal adalah saran bagi penderita kanker pankreas untuk menghindari makanan berlemak tinggi.
Saran yang Bertolak Belakang dengan MedisAnna Jewell, Direktur Dukungan dan Penelitian di Pancreatic Cancer UK, menegaskan saran tersebut sepenuhnya salah. Dalam dunia medis, pasien kanker pankreas justru membutuhkan asupan kalori yang cukup agar kuat menjalani kemoterapi atau operasi.
"Mengikuti saran tersebut bisa sangat berbahaya dan merusak peluang seseorang untuk cukup sehat dalam menjalani pengobatan," ujar Jewell. Ia memperingatkan tanpa asupan lemak yang tepat, pasien akan kesulitan menjaga berat badan dan tidak mampu mentoleransi prosedur medis yang menyelamatkan nyawa.
Masalah serupa ditemukan pada pencarian terkait tes fungsi hati. AI Google menyajikan data angka yang kacau tanpa konteks jenis kelamin, usia, atau etnis. Pamela Healy, CEO British Liver Trust, menyebut ringkasan tersebut "mengkhawatirkan".
"Banyak penderita penyakit hati tidak menunjukkan gejala hingga stadium lanjut. Jika AI Google menyebut hasil tes mereka 'normal' padahal sebenarnya tidak, pasien mungkin mengabaikan pertemuan medis lanjutan yang krusial," jelas Healy.
Kekeliruan Deteksi Kanker pada PerempuanKesehatan reproduksi perempuan juga tidak luput dari misinformasi AI. Pencarian mengenai "gejala dan tes kanker vagina" secara keliru menyantumkan Pap test sebagai metode pendeteksi. Athena Lamnisos, CEO badan amal kanker Eve Appeal, menyatakan informasi ini sepenuhnya salah.
"Mendapatkan informasi salah seperti ini bisa membuat seseorang tidak memeriksakan gejala kanker vagina hanya karena hasil skrining serviks mereka bersih," kata Lamnisos. Ia juga menyoroti inkonsistensi AI yang memberikan jawaban berbeda-beda untuk pencarian yang sama.
Respons Google: "Screenshot Tidak Lengkap"Menanggapi temuan ini, juru bicara Google berdalih banyak contoh yang diberikan merupakan "tangkapan layar yang tidak lengkap". Google mengeklaim sistem mereka telah menghubungkan informasi ke sumber-sumber terkemuka dan tetap merekomendasikan pengguna untuk mencari saran ahli.
"Kami berinvestasi secara signifikan dalam kualitas AI Overviews, terutama untuk topik seperti kesehatan. Sebagian besar memberikan informasi yang akurat," ujar pihak Google.
Namun, para ahli tetap mendesak masyarakat untuk waspada. Sophie Randall dari Patient Information Forum mengingatkan bahwa posisi informasi AI yang berada di paling atas pencarian menciptakan risiko kesehatan yang nyata, karena pengguna sering kali menganggap informasi tersebut sudah terverifikasi. (The Guardian/Z-2)
