Seorang petani di China mengaku kehilangan tanaman seluas sekitar 100 ribu meter persegi atau 10 hektare setelah mengikuti saran dari chatbot berbasis kecerdasan buatan (AI). Kisah ini kembali menunjukkan bahwa chatbot AI tidak selalu bisa dijadikan sumber informasi yang benar. Meski mampu memberikan jawaban dengan cepat dan terdengar meyakinkan, AI tetap dapat menghasilkan informasi yang keliru atau dikenal sebagai halusinasi AI.
Chatbot AI pada dasarnya dilatih menggunakan kumpulan data dalam jumlah besar, sebagian besar berasal dari tulisan manusia. Sistem kemudian mempelajari pola hubungan antara kata dan kalimat untuk menghasilkan respons yang dianggap paling sesuai dengan percakapan.
Jawaban tersebut terkadang benar, tetapi tidak selalu demikian. Sebuah studi internasional yang dilakukan European Broadcasting Union (EBU) baru-baru ini, menemukan 45 persen jawaban AI memiliki setidaknya satu masalah signifikan. Sekitar 20 persen di antaranya bahkan mengandung hallucination, yakni informasi yang dibuat-buat tetapi disampaikan seolah-olah benar.
Masalah ini menjadi semakin penting karena masyarakat mulai menggunakan AI untuk berbagai kebutuhan yang berdampak langsung pada kehidupan sehari-hari. Salah satu penelitian menemukan sekitar satu dari tujuh orang pernah menggunakan AI untuk mendapatkan saran terkait kesehatan.
Penelitian lain juga menunjukkan bahwa pengguna yang rentan, kurang menguasai bahasa Inggris, atau memiliki tingkat pendidikan lebih rendah cenderung mendapatkan informasi yang kurang akurat dari chatbot AI.
Kasus serupa kini terjadi di sektor pertanian. Dilansir media Taiwan CTWant, seorang petani berusia 67 tahun di Chuzhou, China, disebut mulai mengandalkan chatbot AI selama beberapa bulan untuk membantu mengatur jadwal bertani sekaligus mendapatkan rekomendasi mengenai penggunaan pupuk.
Awalnya, petani tersebut sempat meragukan jawaban yang diberikan chatbot. Namun, seiring waktu, ia mulai mempercayai saran yang diberikan AI.
Pada Juli 2026 lalu, kepercayaan tersebut justru berujung kerugian besar. Petani itu meminta chatbot memberikan rekomendasi untuk mengendalikan hama pada tanaman wijennya. Menurut laporan International Business Times, chatbot kemudian merekomendasikan penggunaan flupyrimethalin dan fomesafen, yang dicampur dengan thiamethoxazine dan garam metil.
Si petani kemudian menyemprotkan campuran bahan kimia itu ke tanaman wijennya tanpa terlebih dahulu berkonsultasi dengan ahli. Keesokan harinya, ia mendapati sekitar 10 hektare tanaman miliknya rusak atau mati. Alih-alih langsung berkonsultasi dengan ahli, petani tersebut kembali bertanya kepada chatbot yang sama untuk mencari tahu penyebab kerusakan tanamannya.
Kali ini, chatbot memberikan jawaban yang lebih tepat. Sistem mengidentifikasi bahwa fomesafen merupakan herbisida yang digunakan terutama untuk mengendalikan gulma berdaun lebar, termasuk pada tanaman kedelai.
Masalahnya, wijen juga termasuk tanaman berdaun lebar. Artinya, penggunaan herbisida yang dirancang untuk membasmi tanaman berdaun lebar justru dapat merusak tanaman wijen.
"Jika disemprotkan, keesokan harinya bibit tidak akan bertahan. Rumput dan bibit akan mati, dan bibit akan mati lebih cepat," kata petani tersebut sebagaimana dikutip CTWant.
AI Bukan Mesin Pencari KebenaranKasus tersebut menjadi contoh lain bahwa AI generatif tidak selalu mampu membedakan informasi yang benar dan keliru. Chatbot AI memang dirancang untuk menghasilkan respons yang terdengar masuk akal berdasarkan pola yang dipelajarinya dari data. Namun, sistem tersebut tidak secara otomatis memahami apakah informasi yang diberikan benar-benar sesuai dengan kondisi di dunia nyata.
Risikonya semakin besar ketika pengguna mengikuti jawaban AI tanpa melakukan verifikasi, terutama untuk keputusan yang menyangkut kesehatan, pertanian, keuangan, atau keselamatan.
Kasus petani di China juga bukan insiden pertama ketika kesalahan AI membawa dampak nyata. Salah satu kasus yang bahkan telah didokumentasikan dalam laporan ilmiah adalah seorang pria yang mendapatkan rekomendasi keliru dari AI untuk mengganti natrium klorida (garam) dengan natrium bromida. Keputusan tersebut kemudian menyebabkan dampak kesehatan yang serius.
Karena itu, meski chatbot AI dapat menjadi alat bantu yang berguna, jawabannya sebaiknya tidak diterima mentah-mentah sebagai kebenaran. Untuk keputusan yang berisiko, pengguna tetap perlu memeriksa informasi dari sumber terpercaya atau berkonsultasi dengan tenaga ahli yang memiliki kompetensi di bidangnya.
