Konsultasi Kesehatan dengan Chatbot AI, Pria Ini Keracunan dan Nyaris Tewas

Mempercayakan sepenuhnya diagnose kesehatan pada Chatbot AI, itu seperti sebuah kekonyolan. Apalagi jika tidak ada rekam medis. Kekonyolan itu juga dilakukan oleh seorang pria 60 tahun, yang entah bagaimana, memiliki ide mengkonsultasikan masalah kesehatannya pada Chatbot AI.

Dan penyesalan selalu datang terlambat. Pria tersebut nyaris tewas akibat keracunan bromida setelah mengikuti saran ChatGPT.

Dilansir New York Post, sebuah laporan kasus medis yang mengejutkan yang diterbitkan bulan lalu mengungkapkan bahwa seorang pria berusia 60 tahun tanpa riwayat kondisi kejiwaan atau kesehatan dirawat di rumah sakit dengan psikosis paranoid dan keracunan bromida setelah mengikuti saran ChatGPT.

Saran Chatbot AI Menyesatkan dan Membahayakan Jiwa

Berawal, pria yang tidak disebutkan namanya itu tertarik untuk mengurangi natrium klorida (garam dapur) dari pola makannya. Ia akhirnya mengganti natrium bromida, senyawa beracun, selama tiga bulan setelah berkonsultasi dengan Chatbot AI. Bromin dapat menggantikan klorin — untuk pembersihan dan sanitasi, bukan untuk konsumsi manusia.

“(Itu) persis jenis kesalahan yang seharusnya dapat dicegah oleh pengawasan penyedia layanan kesehatan berlisensi,” kata Andy Kurtzig, CEO mesin pencari berbasis AI Pearl.com, kepada The Post.

“(Kasus itu) menunjukkan betapa berbahayanya saran kesehatan AI.”

Survei: 23% Lebih Percaya Saran Medis AI daripada Dokter

Dalam survei Pearl.com baru-baru ini, 37% responden melaporkan bahwa kepercayaan mereka terhadap dokter telah menurun selama setahun terakhir.

Kecurigaan terhadap dokter dan rumah sakit bukanlah hal baru — tetapi telah meningkat dalam beberapa tahun terakhir akibat panduan pandemi yang saling bertentangan, kekhawatiran atas motif finansial, kualitas perawatan yang buruk, dan diskriminasi.

Para skeptis beralih ke AI, dengan 23% lebih percaya pada saran medis AI daripada dokter.

Hal itu mengkhawatirkan Kurtzig. CEO AI tersebut percaya AI dapat bermanfaat tetapi tidak dan tidak dapat menggantikan penilaian, akuntabilitas etis, atau pengalaman hidup para profesional medis.

"Membuat manusia tetap terhubung bukanlah pilihan, itu adalah perlindungan yang melindungi nyawa," katanya.

Bahkan, 22% responden survei Pearl.com mengakui bahwa mereka mengikuti panduan kesehatan yang kemudian terbukti salah.

Ada beberapa cara AI bisa salah.

29% Pengguna Jarang Periksa Ulang Saran yang Diberikan AI

Sebuah studi Mount Sinai pada bulan Agustus menemukan bahwa chatbot AI yang populer sangat rentan untuk mengulang dan bahkan memperluas informasi medis palsu, sebuah fenomena yang dikenal sebagai "halusinasi."

“Studi internal kami mengungkapkan bahwa 70% perusahaan AI menyertakan pernyataan untuk berkonsultasi dengan dokter karena mereka tahu betapa umum halusinasi medis,” kata Kurtzig.

“Di saat yang sama, 29% pengguna jarang memeriksa ulang saran yang diberikan AI,” lanjutnya. “Kesenjangan itu menghancurkan kepercayaan, dan bisa merenggut nyawa.”

Kurtzig mencatat bahwa AI dapat salah menafsirkan gejala atau melewatkan tanda-tanda kondisi serius, yang menyebabkan kekhawatiran yang tidak perlu atau rasa aman yang salah. Apa pun itu, perawatan yang tepat dapat tertunda.

“AI juga mengandung bias,” kata Kurtzig.

“Studi menunjukkan AI menggambarkan gejala pria dengan istilah yang lebih parah sementara meremehkan gejala wanita, persis seperti disparitas yang membuat wanita menunggu bertahun-tahun untuk diagnosis endometriosis atau PCOS,” tambahnya. “Alih-alih memperbaiki kesenjangan tersebut, AI justru berisiko membuatnya terjerat.”

AI Sangat Berbahaya untuk Penderita Gangguan Kesehatan Mental

Dan terakhir, Kurtzig mengatakan AI bisa “sangat berbahaya” dalam hal kesehatan mental.

Para ahli memperingatkan bahwa penggunaan AI untuk dukungan kesehatan mental menimbulkan risiko yang signifikan, terutama bagi orang-orang yang rentan.

AI telah terbukti dalam beberapa situasi dapat memberikan respons yang berbahaya dan memperkuat pikiran yang tidak sehat. Itulah mengapa penting untuk menggunakan AI secara bijaksana.

Kurtzig menyarankan agar AI membantu merumuskan pertanyaan tentang gejala, penelitian, dan tren kesehatan yang meluas untuk janji temu Anda berikutnya — dan menyerahkan diagnosis serta pilihan pengobatan kepada dokter.

Ia juga menyoroti layanannya sendiri, Pearl.com, yang memungkinkan para ahli manusia memverifikasi respons medis yang dihasilkan AI.

“Dengan 30% orang Amerika melaporkan bahwa mereka tidak dapat mencapai layanan medis darurat dalam jarak 15 menit berkendara dari tempat tinggal mereka,” kata Kurtzig, “ini adalah cara yang bagus untuk membuat keahlian medis profesional lebih mudah diakses tanpa risiko.”

Ketika The Post bertanya kepada Pearl.com apakah natrium bromida dapat menggantikan natrium klorida dalam makanan seseorang, jawabannya adalah: “Saya sama sekali tidak akan merekomendasikan penggantian natrium klorida (garam dapur) dengan natrium bromida dalam makanan Anda. Ini akan berbahaya karena beberapa alasan penting.”***

Sumber: New York Post