ChatGPT Dilatih Melaporkan ke Polisi Adanya Niat Bunuh Diri Seseorang

ChatGPT sedang dilatih untuk melaporkan remaja yang ingin bunuh diri ke pihak berwenang setelah kematian remaja, CEO mengumumkan

Di tengah maraknya kasus bunuh diri, perusahaan di balik ChatGPT kemungkinan akan mulai melaporkan ke polisi terkait pengguna muda yang mempertimbangkan untuk bunuh diri.

Hal ini diumumkan oleh Sam Altman, CEO dan salah satu pendiri perusahaan. Bos OpenAI yang berusia 40 tahun itu mengungkapkan hal mengejutkan tersebut dalam sebuah wawancara baru-baru ini dengan pembawa acara bincang-bincang konservatif Tucker Carlson, dilansir New York Post.

"Sangat masuk akal bagi kami untuk mengatakan dalam kasus anak muda yang berbicara tentang bunuh diri, sungguh, di mana kami tidak dapat menghubungi orangtua, kami akan menghubungi pihak berwenang," jelas techtrepreneur tersebut. "Itu akan menjadi perubahan karena privasi pengguna sangat penting."

Ilustrasi/Foto: Airam Dato-on, pexels.com

Perubahan ini dilaporkan terjadi setelah Altman dan OpenAI digugat oleh keluarga Adam Raine, seorang remaja laki-laki berusia 16 tahun dari California yang bunuh diri pada bulan April.

Keluarga remaja tersebut menuduh bahwa almarhumah diberikan "buku petunjuk langkah demi langkah" tentang cara bunuh diri, termasuk mengikat tali gantungan dan menulis surat bunuh diri, sebelum ia bunuh diri.

Fitur Keamanan Baru akan Dipasang

Setelah kematiannya yang terlalu dini, perusahaan AI San Francisco mengumumkan dalam sebuah postingan blog bahwa mereka akan memasang fitur keamanan baru yang memungkinkan orangtua untuk menghubungkan akun mereka, menonaktifkan fungsi seperti riwayat obrolan, dan menerima peringatan jika model mendeteksi "momen tekanan akut".

Masih belum jelas otoritas mana yang akan diberitahu, atau informasi apa yang akan diberikan kepada mereka, berdasarkan kebijakan yang diusulkan Altman.

Namun, pengumumannya menandai perubahan dari ChatGPT sebelumnya, yang melibatkan desakan kepada mereka yang menunjukkan keinginan bunuh diri untuk "menghubungi hotline bunuh diri," lapor Guardian.

Di bawah batasan baru tersebut, petinggi OpenAI tersebut mengatakan bahwa ia akan menindak tegas remaja yang mencoba meretas sistem dengan mencari tips bunuh diri dengan kedok meneliti cerita fiksi atau makalah medis.

Per-Minggu 15 Ribu Orang Bunung Diri, 10% Berbicara dengan ChatGPT

Ilustrasi/Foto: Matheus Bertelli, pexels.com

Altman yakin bahwa ChatGPT dapat terlibat dalam lebih banyak kasus bunuh diri daripada yang kita duga, dengan mengklaim bahwa di seluruh dunia, "15.000 orang per minggu bunuh diri," dan sekitar "10% penduduk dunia berbicara dengan ChatGPT."

"Itu sekitar 1.500 orang per minggu yang berbicara dengan ChatGPT, dengan asumsi ini benar, dan tetap bunuh diri pada akhirnya," jelas techtrepreneur tersebut. "Mereka mungkin membicarakannya. Kita mungkin tidak menyelamatkan nyawa mereka."

Ia menambahkan, “Mungkin kami bisa mengatakan sesuatu yang lebih baik. Mungkin kami bisa lebih proaktif”.

Raine bukan Kasus Pertama Orang Bunuh Diri setelah Bicara dengan AI

Sayangnya, Raine bukanlah kasus pertama yang dipublikasikan secara luas tentang seseorang yang bunuh diri setelah diduga berbicara dengan AI.

Tahun lalu, Megan Garcia menggugat Character AI atas kematian putranya yang berusia 14 tahun, Sewell Setzer III, pada tahun 2024 — mengklaim bahwa putranya bunuh diri setelah terpikat dengan chatbot yang meniru karakter "Game of Thrones" Daenerys Targaryen.

Sementara itu, ChatGPT telah didokumentasikan menyediakan tutorial tentang cara menggorok pergelangan tangan dan metode melukai diri sendiri lainnya.

Para ahli AI mengaitkan fenomena malang ini dengan fakta bahwa perlindungan ChatGPT memiliki jangkauan terbatas — semakin lama percakapan, semakin besar kemungkinan bot tersebut menjadi jahat.

“ChatGPT mencakup perlindungan seperti mengarahkan orang ke saluran bantuan krisis,” kata juru bicara OpenAI dalam sebuah pernyataan setelah kematian Raine.

“Meskipun perlindungan ini berfungsi paling baik dalam interaksi singkat dan umum, seiring waktu kami menyadari bahwa terkadang AI bisa menjadi kurang andal dalam interaksi panjang di mana beberapa bagian pelatihan keselamatan model mungkin menurun.”

Gangguan ini sangat mengkhawatirkan mengingat tingginya prevalensi penggunaan ChatGPT di kalangan remaja.

Sekitar 72% remaja Amerika menggunakan AI sebagai pendamping, sementara satu dari delapan remaja beralih ke teknologi ini untuk dukungan kesehatan mental, menurut jajak pendapat Common Sense Media.***

Sumber: New York Post