Berandasehat.id – Orang dengan penyakit mental yang menggunakan chatbot AI berisiko mengalami pemburukan kondisi yang sudah ada, menurut sebuah studi baru yang diterbitkan dalam jurnal Acta Psychiatrica Scandinavica.

Untuk sampai pada kesimpulan itu para peneliti meneliti rekam medis elektronik dari hampir 54.000 pasien dengan penyakit mental dan menemukan beberapa kasus di mana penggunaan chatbot AI tampaknya memiliki konsekuensi negatif. Bentuknya terutama delusi yang makin parah, potensi memburuknya mania, ide bunuh diri, dan gangguan makan.

“Hasil ini mendukung hipotesis kami bahwa penggunaan chatbot AI dapat memiliki konsekuensi negatif yang signifikan bagi orang dengan penyakit mental,” kata Profesor Dinesen Østergaard dari Universitas Aarhus dan Rumah Sakit Universitas Aarhus, yang memimpin kelompok penelitian di balik studi tersebut.

Hubungan chatbot dan delusi

Dalam studi terkini, para peneliti menemukan contoh delusi yang kemungkinan memburuk karena interaksi pasien dengan chatbot AI. Menurut Dinesen Østergaard, ada penjelasan logis untuk hal ini.

“Chatbot AI memiliki kecenderungan bawaan untuk memvalidasi keyakinan pengguna. Jelas bahwa ini sangat bermasalah jika pengguna sudah memiliki delusi atau sedang dalam proses mengembangkannya. Bahkan, tampaknya hal ini berkontribusi secara signifikan pada penguatan, misalnya paranoia,” katanya.

Menurut Dinesen Østergaard, studi ini seharusnya mendorong peningkatan kesadaran di antara para profesional perawatan kesehatan yang bekerja menangani penyakit mental.

Ia percaya mereka harus mendiskusikan penggunaan chatbot AI dengan pasien mereka. “Meskipun pengetahuan kita di bidang ini masih terbatas, saya berpendapat bahwa kita sekarang cukup tahu untuk mengatakan bahwa penggunaan chatbot AI berisiko bagi penderita penyakit mental berat, seperti skizofrenia atau gangguan bipolar. Saya akan mendesak kehati-hatian di sini,” katanya.

Fenomena puncak gunung es

Studi ini menunjukkan peningkatan yang jelas dari waktu ke waktu dalam jumlah entri rekam medis elektronik yang menyebutkan penggunaan chatbot AI dengan konsekuensi yang berpotensi berbahaya.

Dinesen Østergaard memperkirakan akan ada lebih banyak kasus yang teridentifikasi di masa mendatang. Sebagian dari peningkatan yang diamati mungkin disebabkan oleh kesadaran yang lebih besar tentang teknologi di antara staf perawatan kesehatan yang menulis catatan klinis.

“Ini bagus, karena saya khawatir masalah ini lebih umum daripada yang dipikirkan kebanyakan orang. Dalam studi, kami hanya melihat puncak gunung es, karena hanya dapat mengidentifikasi kasus yang dijelaskan dalam rekam medis elektronik. Kemungkinan ada jauh lebih banyak kasus yang belum terdeteksi,” katanya.

Namun, para peneliti menekankan bahwa penelitian ini tidak mendokumentasikan hubungan sebab akibat langsung.

“Sulit untuk membuktikan hubungan sebab akibat antara penggunaan chatbot AI dan konsekuensi psikologis negatif. Kita perlu meneliti ini dari berbagai sudut pandang, dan saya tahu ada banyak proyek penelitian internasional yang menarik sedang berlangsung. Kami bukanlah satu-satunya kelompok yang menanggapi hal ini dengan serius,” kata Dinesen Østergaard.

Chatbot AI sebagai terapi

Studi ini juga menunjukkan bahwa beberapa pasien dengan penyakit mental menggunakan chatbot AI dengan cara yang mungkin konstruktif misalnya, untuk memahami gejala atau mengatasi kesepian. Ada juga penelitian yang sedang berlangsung tentang apakah chatbot AI dapat digunakan untuk terapi bicara.

Namun demikian, Dinesen Østergaard skeptis. “Mungkin ada potensi dalam kaitannya dengan psikoedukasi dan psikoterapi, tetapi ini harus diselidiki dalam uji coba terkontrol dengan ketelitian yang sama yang diterapkan pada bentuk perawatan lainnya,” ujarnya.

Dia mengaku tidak terkesan dengan uji coba yang dilakukan sejauh ini, dan pada dasarnya skeptis tentang menggantikan psikoterapis terlatih dengan chatbot AI.

Menurut Dinesen Østergaard, ada kekurangan regulasi yang signifikan terhadap teknologi chatbot AI. Saat ini, terserah pada perusahaan-perusahaan itu sendiri untuk memutuskan apakah produk mereka cukup aman bagi pengguna. “Saya percaya kita sekarang memiliki cukup bukti untuk menyimpulkan bahwa model ini terlalu berisiko. Regulasi diperlukan di tingkat pusat,” ujarnya.

Sudah 20 tahun sejak media sosial mencapai jangkauan global, dan baru dalam setahun terakhir negara-negara mulai mengatur untuk menangkal konsekuensi negatif dari teknologi ini, terutama pada kesehatan mental anak-anak dan remaja.

Menurut Dinesen Østergaard, kisah ini terulang kembali dengan chatbot AI, ia menyampaikan peringatan dalam sebuah editorial di Acta Psychiatrica Scandinavica. (BS)