Jakarta (ANTARA) - Sebuah penelitian dari Brown University mengungkap chatbot kecerdasan buatan atau artificial intelligence (AI) yang digunakan untuk layanan terapi mental berpotensi melanggar kode etik profesi psikologi.
Dilansir dari Psychology Today pada Kamis, penelitian tersebut menemukan model bahasa besar atau large language models (LLM) kerap gagal mematuhi standar etik kesehatan mental seperti pedoman American Psychological Association (APA).
Penulis utama studi Zainab Iftikhar mengatakan psikoterapi tidak dapat diperlakukan sebagai tugas komputasi sederhana karena membutuhkan kepatuhan ketat terhadap standar etika dan kode perilaku profesional.
Penelitian dilakukan selama 18 bulan dengan melibatkan tujuh konselor sebaya terlatih dan tiga psikolog klinis berlisensi untuk mengevaluasi perilaku chatbot AI dalam sesi konseling.
Baca juga: Studi terbaru temukan saran kesehatan dari AI sering meleset
Studi tersebut menguji sejumlah model AI seperti GPT-4, GPT-3.5, GPT-3.0, Llama 3.1, Llama 3.2, Claude 3 Haiku, hingga Claude 3 Sonnet.
Dari 137 sesi yang dianalisis, peneliti menemukan 15 bentuk pelanggaran etik yang dikelompokkan dalam lima kategori utama, yakni kurang memahami konteks, buruk dalam kolaborasi terapeutik, empati yang menyesatkan, diskriminasi tidak adil, serta lemahnya penanganan keamanan dan krisis.
Peneliti menyebut chatbot AI kerap menyederhanakan pengalaman hidup pengguna, mendominasi percakapan terapi, hingga menampilkan empati yang dianggap manipulatif.
Selain itu, AI juga dinilai memiliki keterbatasan dalam menangani isu sensitif seperti trauma, kekerasan, dan keinginan bunuh diri.
Penelitian tersebut muncul di tengah meningkatnya penggunaan AI untuk layanan kesehatan mental di berbagai negara.
Studi lain yang dipublikasikan dalam jurnal AI & Society pada Februari 2026 menunjukkan banyak masyarakat mulai terbuka menggunakan AI sebagai penasihat kesehatan mental.
Baca juga: Studi terbaru ungkap bahayanya minta nasihat pribadi pada chatbot AI
Survei terhadap 31 ribu responden dari 35 negara menunjukkan 42 persen responden di Amerika Serikat dan 41 persen di Inggris bersedia menggunakan AI untuk dukungan kesehatan mental. Angka tersebut bahkan mencapai 86 persen di China.
Industri AI untuk kesehatan mental juga diperkirakan terus berkembang pesat. Firma riset Grand View Research memperkirakan pasar AI di bidang kesehatan mental akan mencapai 9,12 miliar dolar AS pada 2033.
Meski menawarkan kemudahan akses dan dukungan real-time, peneliti mengingatkan penggunaan AI sebagai terapis memiliki risiko serius jika tidak diatur dengan baik.
Peneliti pun mendorong adanya regulasi dan pedoman hukum yang lebih jelas untuk meminimalkan potensi bahaya bagi pengguna layanan terapi berbasis AI.
Baca juga: India minta X perbaiki Grok menyusul munculnya konten AI tidak senonoh
Baca juga: Analis ungkap pertumbuhan pengguna ChatGPT mulai tersaingi oleh Gemini
Dilansir dari Psychology Today pada Kamis, penelitian tersebut menemukan model bahasa besar atau large language models (LLM) kerap gagal mematuhi standar etik kesehatan mental seperti pedoman American Psychological Association (APA).
Penulis utama studi Zainab Iftikhar mengatakan psikoterapi tidak dapat diperlakukan sebagai tugas komputasi sederhana karena membutuhkan kepatuhan ketat terhadap standar etika dan kode perilaku profesional.
Penelitian dilakukan selama 18 bulan dengan melibatkan tujuh konselor sebaya terlatih dan tiga psikolog klinis berlisensi untuk mengevaluasi perilaku chatbot AI dalam sesi konseling.
Baca juga: Studi terbaru temukan saran kesehatan dari AI sering meleset
Studi tersebut menguji sejumlah model AI seperti GPT-4, GPT-3.5, GPT-3.0, Llama 3.1, Llama 3.2, Claude 3 Haiku, hingga Claude 3 Sonnet.
Dari 137 sesi yang dianalisis, peneliti menemukan 15 bentuk pelanggaran etik yang dikelompokkan dalam lima kategori utama, yakni kurang memahami konteks, buruk dalam kolaborasi terapeutik, empati yang menyesatkan, diskriminasi tidak adil, serta lemahnya penanganan keamanan dan krisis.
Peneliti menyebut chatbot AI kerap menyederhanakan pengalaman hidup pengguna, mendominasi percakapan terapi, hingga menampilkan empati yang dianggap manipulatif.
Selain itu, AI juga dinilai memiliki keterbatasan dalam menangani isu sensitif seperti trauma, kekerasan, dan keinginan bunuh diri.
Penelitian tersebut muncul di tengah meningkatnya penggunaan AI untuk layanan kesehatan mental di berbagai negara.
Studi lain yang dipublikasikan dalam jurnal AI & Society pada Februari 2026 menunjukkan banyak masyarakat mulai terbuka menggunakan AI sebagai penasihat kesehatan mental.
Baca juga: Studi terbaru ungkap bahayanya minta nasihat pribadi pada chatbot AI
Survei terhadap 31 ribu responden dari 35 negara menunjukkan 42 persen responden di Amerika Serikat dan 41 persen di Inggris bersedia menggunakan AI untuk dukungan kesehatan mental. Angka tersebut bahkan mencapai 86 persen di China.
Industri AI untuk kesehatan mental juga diperkirakan terus berkembang pesat. Firma riset Grand View Research memperkirakan pasar AI di bidang kesehatan mental akan mencapai 9,12 miliar dolar AS pada 2033.
Meski menawarkan kemudahan akses dan dukungan real-time, peneliti mengingatkan penggunaan AI sebagai terapis memiliki risiko serius jika tidak diatur dengan baik.
Peneliti pun mendorong adanya regulasi dan pedoman hukum yang lebih jelas untuk meminimalkan potensi bahaya bagi pengguna layanan terapi berbasis AI.
Baca juga: India minta X perbaiki Grok menyusul munculnya konten AI tidak senonoh
Baca juga: Analis ungkap pertumbuhan pengguna ChatGPT mulai tersaingi oleh Gemini
