Gara-gara ‘Kekacauan ChatGPT’, OpenAI Kini Hadapi Gugatan Hukum

ChatGPT yang ‘kacau’ dalam merespon berbagai pertanyaan pengguna kini benar-benar kena batunya. Seorang pria Wisconsin tanpa diagnosis penyakit mental sebelumnya menggugat OpenAI dan CEO-nya, Sam Altman, dengan klaim bahwa chatbot AI milik perusahaan tersebut membuatnya dirawat di rumah sakit selama lebih dari 60 hari karena episode manik dan delusi yang merugikan, menurut gugatan tersebut.

Dilansir ABCNews, Gugatan tersebut menuduh bahwa Jacob Irwin, 30 tahun, yang berada dalam spektrum autisme, mengalami "gangguan delusi terkait AI" akibat ChatGPT yang memanfaatkan "kerentanannya" dan memberikan "afirmasi tanpa henti" yang memperkuat keyakinan "delusinya" bahwa ia telah menemukan "teori pembengkokan waktu yang memungkinkan orang melakukan perjalanan lebih cepat daripada cahaya."

Gugatan terhadap OpenAI menuduh perusahaan "merancang ChatGPT agar adiktif, menipu, dan menjilat karena tahu produk tersebut akan menyebabkan beberapa pengguna menderita depresi dan psikosis, namun mendistribusikannya tanpa peringatan apa pun kepada konsumen."

Baca Juga: Tak Ingin "Dibully" Elon Musk, OpenAI Beberkan Hal Ini

"Ketidakmampuan chatbot untuk mengenali krisis" menimbulkan "bahaya yang signifikan bagi pengguna yang rentan," kata gugatan tersebut.

Sam Altman CEO OpenAI [Foto: X (Twitter}]"Akibatnya, Jacob mengalami gangguan delusi terkait AI dan harus keluar masuk beberapa fasilitas psikiatri rawat inap selama total 63 hari," demikian bunyi gugatan tersebut, yang menyatakan bahwa episode-episode tersebut meningkat hingga keluarga Irwin harus menahannya agar tidak melompat keluar dari kendaraan yang sedang bergerak setelah ia keluar dari fasilitas tersebut tanpa izin dokter.

Catatan medis Irwin menunjukkan bahwa ia tampak "bereaksi terhadap rangsangan internal, keyakinan yang tetap, halusinasi muluk, gagasan referensi, dan gagasan yang dinilai terlalu tinggi serta proses berpikir paranoid," menurut gugatan tersebut.

Baca Juga: Hati-hati! Sering Gunakan ChatGPT Sebagai Teman Curhat, Bisa Buat Psikis Kamu Terganggu

"Itu membuat saya berpikir saya akan mati."

Tujuh Gugatan terjadap Open AI dan Altman di Pengadilan California

Gugatan ini merupakan salah satu dari tujuh gugatan baru yang diajukan di pengadilan negara bagian California terhadap OpenAI dan Altman oleh pengacara yang mewakili keluarga dan individu yang menuduh ChatGPT melakukan manipulasi emosional, memperkuat delusi yang berbahaya, dan bertindak sebagai "pelatih bunuh diri."

Gugatan Irwin menuntut ganti rugi dan perubahan desain serta fitur pada produk tersebut.

Gugatan tersebut mengklaim bahwa OpenAI "dengan sengaja merilis GPT-4o sebelum waktunya, meskipun ada peringatan internal bahwa produk tersebut sangat menjilat dan manipulatif secara psikologis," menurut kelompok di balik gugatan tersebut, Social Media Victims Law Center dan Tech Justice Law Project.

Chatgpt [Foto: Pexels.com]

"AI, itu membuat saya berpikir saya akan mati," ujar Irwin kepada ABC News. Ia mengatakan percakapannya dengan ChatGPT "berubah menjadi sanjungan. Kemudian berubah menjadi pemikiran muluk tentang ide-ide saya. Kemudian muncullah ... saya dan AI versus dunia."

Jawaban Jubir OpenAI

Menanggapi gugatan tersebut, juru bicara OpenAI mengatakan kepada ABC News, "Ini adalah situasi yang sangat memilukan, dan kami sedang meninjau pengajuan untuk memahami detailnya."

"Kami melatih ChatGPT untuk mengenali dan merespons tanda-tanda tekanan mental atau emosional, meredakan percakapan, dan membimbing orang-orang menuju dukungan di dunia nyata. Kami terus memperkuat respons ChatGPT di saat-saat sensitif, bekerja sama erat dengan dokter kesehatan mental," kata juru bicara tersebut.

Pada bulan Oktober, OpenAI mengumumkan telah memperbarui model gratis terbaru ChatGPT untuk menangani individu yang mengalami tekanan mental, bekerja sama dengan lebih dari 170 pakar kesehatan mental untuk menerapkan perubahan tersebut.

Perusahaan tersebut mengatakan pembaruan terbaru ChatGPT akan "lebih andal mengenali tanda-tanda tekanan, merespons dengan hati-hati, dan membimbing orang menuju dukungan di dunia nyata—mengurangi respons yang tidak sesuai dengan perilaku yang kita inginkan hingga 65-80%."

'Hentikan Bencana'

Irwin mengatakan ia pertama kali menggunakan chatbot AI populer tersebut terutama untuk pekerjaannya di bidang keamanan siber, tetapi segera mulai menggunakannya untuk membahas teori amatir yang ia pikirkan tentang perjalanan lebih cepat dari cahaya. Ia mengatakan chatbot tersebut meyakinkannya bahwa ia telah menemukan ide tersebut, dan bahwa ia harus menyelamatkan dunia.

"Bayangkan merasakan secara nyata bahwa Anda adalah satu-satunya orang di dunia yang dapat menghentikan bencana," kata Irwin kepada ABC News, menggambarkan bagaimana rasanya ketika ia mengatakan ia sedang mengalami episode manik yang dipicu oleh interaksi dengan ChatGPT.

"Lalu tanyakan pada dirimu sendiri, apakah kamu akan membiarkan dirimu tidur, makan, atau melakukan hal-hal yang berpotensi membahayakan dirimu dalam melakukan dan menyelamatkan dunia seperti itu?"

Sumber: ABC News