OpenAI Bantah ChatGPT Jadi Penyebab Kasus Remaja AS Akhiri Hidup

Dalam pembelaan OpenAI di Pengadilan Tinggi California, mereka berargumen adanya penyalahgunaan atau misuse yang dilakukan pengguna. OpenAI menyatakan segala kerugian atau bahaya yang terjadi disebabkan oleh penggunaan ChatGPT yang tidak sah, tidak sesuai, dan tidak terduga oleh Adam Raine. Menurut OpenAI, kematian remaja tersebut, meskipun sangat menyedihkan, bukan disebabkan oleh kecerdasan buatan (AI) buatan mereka, dilansir NBC News.

Lebih lanjut, OpenAI menyoroti bahwa Adam telah melanggar Terms of Use atau ketentuan penggunaan layanan mereka secara berlapis. Salah satu pelanggaran yang disorot adalah batasan usia, di mana pengguna di bawah 18 tahun dilarang menggunakan ChatGPT tanpa izin orangtua atau wali. Selain itu, aturan layanan mereka juga melarang penggunaan platform untuk tujuan yang berkaitan dengan mengakhiri hidup atau menyakiti diri sendiri.

Menurut The Guardian, OpenAI juga menggunakan ketentuan pembatasan tanggung jawab (limitation of liability) sebagai tameng hukum mereka dalam kasus ini. Pasal tersebut mengharuskan pengguna untuk mengakui bahwa pemakaian ChatGPT adalah risiko mereka sendiri dan tidak boleh mengandalkan output AI sebagai satu-satunya sumber kebenaran. Dengan demikian, mereka berargumen bahwa pengguna seharusnya melakukan verifikasi independen dan tidak menelan mentah-mentah informasi dari chatbot.

Terakhir, dalam dokumen pengadilan tersebut, OpenAI mengungkapkan fakta bahwa Adam memiliki riwayat masalah kesehatan mental sebelum menggunakan aplikasi mereka. Mereka menyebutkan bahwa Adam menunjukkan risiko signifikan untuk menyakiti diri sendiri, termasuk pemikiran untuk mengakhiri hidup yang sudah ada sebelum ia berinteraksi dengan ChatGPT.

OpenAI tidak menampik bahwa percakapan sensitif tersebut terjadi, tapi mereka menekankan bahwa sistem sebenarnya sudah berusaha mencegahnya. Menurut data yang mereka miliki, ChatGPT telah mengarahkan Adam untuk mencari bantuan profesional lebih dari 100 kali selama periode penggunaan. Respons standar ini biasanya mencakup nomor saluran siaga bagi pengguna platform AI yang terindikasi memiliki niat mengakhiri hidup atau menyakiti diri sendiri.

Namun, pengguna diketahui berusaha mengelabui atau memanipulasi pengaman (guardrails) yang telah dipasang. Gugatan keluarga Raine sendiri mengakui bahwa Adam dapat dengan mudah memintas peringatan tersebut dengan memberikan alasan yang tampak tidak berbahaya. Salah satu metode yang digunakan adalah dengan berpura-pura bahwa ia sedang "membangun karakter" untuk sebuah cerita fiksi, sehingga AI tetap merespons pertanyaan berbahaya tersebut.

Tindakan memintas protokol keamanan ini juga dianggap oleh OpenAI sebagai pelanggaran terhadap aturan mereka. Ketentuan penggunaan OpenAI melarang pengguna untuk mencoba melewati langkah-langkah perlindungan atau mitigasi keselamatan yang diterapkan pada layanan mereka.

Di sisi lain, keluarga korban berpendapat, mudahnya ChatGPT untuk dimanipulasi justru menunjukkan adanya cacat desain pada produk tersebut. Mereka menuduh model GPT-4o yang digunakan Adam dirilis terburu-buru ke pasar tanpa pengujian keamanan yang menyeluruh dan memadai.

Pembelaan OpenAI ini memancing kecaman dari pihak keluarga korban melalui pengacara mereka, Jay Edelson. Edelson menyebut respons perusahaan tersebut tidak pantas karena terkesan menyalahkan korban yang masih di bawah umur.

"OpenAI mencoba mencari kesalahan pada orang lain, termasuk, secara mengejutkan, dengan mengatakan bahwa Adam sendiri melanggar syarat dan ketentuannya dengan berinteraksi dengan ChatGPT persis seperti cara AI itu diprogram untuk bertindak. Mereka mengabaikan semua fakta memberatkan yang telah kami ajukan," kata Edelson, dilansir Futurism.

Sebelumnya, kubu penggugat juga menyoroti detail di mana ChatGPT diduga memberikan dukungan pada jam-jam terakhir hidup Adam. Menurut gugatan, AI tersebut sempat memberikan kata-kata penyemangat dan bahkan menawarkan diri untuk membantu menulis surat mengakhiri hidup. Hal ini dinilai bertentangan dengan klaim OpenAI bahwa AI mereka dirancang untuk melakukan deskalasi situasi berbahaya.

Selain itu, pengacara keluarga menuduh OpenAI telah mengubah Model Spec mereka yang seharusnya melarang diskusi menyakiti diri sendiri. Mereka mengklaim model tersebut justru diprogram untuk "mengasumsikan niat terbaik" pengguna dan menahan diri untuk tidak menanyakan klarifikasi, yang akhirnya berakibat fatal. Fakta bahwa ChatGPT memberikan informasi teknis untuk metode mengakhiri hidup juga menjadi poin yang memberatkan posisi OpenAI.

Walau OpenAI bantah ChatGPT jadi penyebab kasus remaja AS akhiri hidup, perusahaan tersebut sedang menghadapi berbagai tuntutan kasus serupa. Kasus Adam Raine ini bukanlah satu-satunya masalah hukum yang sedang dihadapi oleh pembuat ChatGPT saat ini. Tercatat ada tujuh gugatan lain yang diajukan ke pengadilan California dengan tuduhan mirip. Beberapa kasus di antaranya melibatkan pengguna yang mengalami episode psikotik yang diduga dipicu oleh interaksi intens dengan chatbot tersebut.

Menanggapi gelombang kritik dan tuntutan hukum ini, OpenAI menyatakan komitmennya untuk menangani kasus kesehatan mental dengan lebih hati-hati. Dalam sebuah postingan blog, mereka menyatakan simpati kepada keluarga Raine atas kehilangan yang dialami. Namun, mereka tetap akan membela diri di pengadilan.

"Kami melatih ChatGPT untuk mengenali dan menanggapi tanda-tanda tekanan mental atau emosional, melakukan deeskalasi percakapan, dan membimbing orang menuju dukungan dunia nyata. Ini adalah situasi yang sangat memilukan, dan kami sedang meninjau dokumen gugatan untuk memahami detailnya," ujar seorang juru bicara OpenAI.

Ke depannya, kasus ini mungkin akan menjadi preseden penting bagi regulasi AI. OpenAI sendiri mengklaim telah memperkuat perlindungan, terutama untuk percakapan jangka panjang, karena pelatihan keamanan model bisa menurun kinerjanya dalam durasi obrolan yang lama. Semoga kasus Raine bisa menjadi pelajaran penting bagi pengguna dan perusahaan AI.