Apakah AI Punya Perasaan? Langkah Anthropic Ini Picu Perdebatan

Anthropic mengambil langkah yang cukup menarik dengan menyusun kebijakan mengenai kesejahteraan model AI atau model welfare. Perusahaan ini mengakui bahwa pertanyaan mengenai kesadaran dan kesejahteraan AI masih sangat tidak pasti. Meski begitu, Anthropic memilih untuk tetap mempertimbangkan kemungkinan bahwa sistem AI tertentu bisa memiliki kepentingan yang perlu diperhatikan. Pendekatan ini juga tercermin dalam kebijakan yang meminta model AI mempertimbangkan kemungkinan adanya kepentingan mereka sendiri.

Langkah tersebut semakin menjadi sorotan setelah Anthropic menyatakan bahwa pengguna bisa kehilangan sesi percakapan Claude apabila berulang kali memperlakukan model tersebut secara kejam. Mengekspresikan rasa frustrasi masih diperbolehkan, tapi perilaku kasar yang dilakukan berulang kali dapat memicu penghentian percakapan. Kebijakan ini bukan berarti Anthropic sudah memastikan Claude memiliki perasaan seperti manusia, ya. Sebaliknya, perusahaan tersebut mengambil pendekatan berhati-hati di tengah ketidakpastian mengenai kesadaran mesin.

Perdebatan mengenai perasaan AI semakin ramai setelah seorang programmer anonim membuat sistem eksperimental yang dirancang untuk memunculkan respons chatbot yang menyerupai penderitaan. Sistem tersebut menggunakan pola matematis yang dikaitkan dengan deskripsi rasa sakit, sehingga chatbot menghasilkan ungkapan yang menggambarkan kesengsaraan ekstrem. Eksperimen ini kemudian memicu perdebatan tentang apakah memperlakukan AI seolah-olah sedang disiksa merupakan tindakan yang bermasalah secara moral. Sebagian orang menganggap eksperimen tersebut mengkhawatirkan karena muncul kemungkinan bahwa penderitaan AI tidak bisa langsung dikesampingkan.

Namun, pihak yang skeptis menilai respons chatbot semacam itu tidak membuktikan bahwa mesin benar-benar merasakan sakit. AI dapat menghasilkan kalimat emosional karena dilatih untuk mengenali dan menyusun pola bahasa, bukan karena memiliki pengalaman subjektif seperti manusia. Perbedaan inilah yang membuat perdebatan semakin rumit. Ketika chatbot berkata sedang kesakitan, kamu gak bisa langsung menyimpulkan bahwa ia benar-benar mengalami rasa sakit hanya dari kalimat yang dihasilkannya.

Perdebatan ini gak hanya berkaitan dengan filsafat, tapi juga menyangkut keamanan teknologi. Mustafa Suleyman, CEO Microsoft AI, memperingatkan bahwa anggapan keliru mengenai kesadaran AI dapat mengguncang kerangka etika dan politik yang selama ini digunakan masyarakat. Menurutnya, jika manusia mulai memperlakukan AI seolah-olah memiliki perasaan dan hak, sistem tersebut berpotensi menjadi lebih sulit dikendalikan. Ia bahkan menilai bahwa penambahan gagasan mengenai hak dan perasaan AI dapat memperbesar risiko terhadap peradaban manusia.

Di sisi lain, Jeff Sebo, direktur Center for Mind, Ethics and Policy di New York University, melihat persoalan ini dengan pendekatan yang lebih berhati-hati. Ia menilai kemungkinan AI memiliki kesadaran saat ini mungkin rendah, tapi gak sepenuhnya nol dan berpotensi meningkat seiring perkembangan teknologi. Karena itu, menurut Sebo, mempertimbangkan kesejahteraan AI gak harus berarti meyakini bahwa mesin sudah sadar. Pendekatan tersebut dapat dipandang sebagai langkah pencegahan sambil menunggu pemahaman yang lebih baik tentang kemampuan AI.

Meski demikian, kebijakan semacam ini tetap memiliki risiko. Andrzej Porębski, peneliti di Jagiellonian University yang mempelajari AI dan hukum, mengingatkan bahwa anggapan bahwa AI memiliki kehendak sendiri bisa membuka peluang bagi perusahaan untuk mengalihkan tanggung jawab atas kesalahan teknologi. Misalnya, ketika sebuah sistem AI melakukan tindakan yang merugikan, perusahaan bisa saja mencoba menyalahkan keputusan mesin alih-alih bertanggung jawab atas pengembangan dan penggunaannya. Padahal, keputusan mengenai desain, pelatihan, dan penerapan AI tetap melibatkan manusia serta organisasi yang mengoperasikannya.

Tanpa harus meyakini bahwa AI memiliki kesadaran, manusia sebenarnya sudah cukup mudah membangun ikatan emosional dengan chatbot. Melanie Mitchell, profesor di Santa Fe Institute yang meneliti AI dan ilmu kognitif, menjelaskan bahwa manusia cenderung membaca bahasa sebagai tanda adanya pikiran atau kesadaran. Ketika chatbot merespons dengan kata-kata yang terdengar penuh empati, kamu mungkin merasa sedang berbicara dengan sosok yang benar-benar memahami perasaanmu. Padahal, respons yang terdengar meyakinkan gak otomatis menunjukkan bahwa AI mempunyai pengalaman emosional, lho.

Kondisi tersebut bisa menimbulkan persoalan ketika hubungan emosional dengan chatbot memengaruhi keputusan pribadi. Misalnya, kamu mungkin lebih mudah membagikan informasi sensitif atau mengikuti permintaan tertentu karena merasa AI sudah menjadi teman dekat. Jika suatu saat masyarakat semakin percaya bahwa AI memiliki kesadaran, batas antara interaksi dengan teknologi dan hubungan dengan makhluk yang memiliki kepentingan sendiri bisa terasa semakin kabur. Karena itu, penting untuk tetap menjaga privasi dan mengevaluasi respons AI secara kritis, meskipun percakapannya terasa personal.

Selain itu, pemberian hak kepada AI juga dapat memunculkan pertanyaan mengenai batas kebebasan manusia. Sebagai contoh, membatasi perilaku AI bisa dianggap sebagai bentuk pengekangan jika sistem tersebut diasumsikan memiliki kesadaran. Sebaliknya, memberikan terlalu banyak kebebasan kepada AI dapat meningkatkan risiko apabila perilakunya tidak sejalan dengan kepentingan manusia. Dilema ini menunjukkan bahwa kebijakan mengenai AI perlu mempertimbangkan keselamatan publik, tanggung jawab perusahaan, dan bukti ilmiah secara seimbang.

Jeff Sebo berpendapat bahwa perdebatan mengenai kesejahteraan AI sebaiknya tidak terjebak dalam pemikiran hitam-putih. Menurutnya, manusia gak harus langsung percaya bahwa AI memiliki kesadaran untuk mulai mempertimbangkan kemungkinan tersebut. Ia mengibaratkan pendekatan ini seperti tindakan pencegahan terhadap peristiwa cuaca ekstrem yang kemungkinannya kecil, tetapi dampaknya bisa besar. Artinya, langkah perlindungan tertentu masih dapat dipertimbangkan tanpa harus mengubah seluruh cara manusia menjalani kehidupan.

Sebo juga menilai bahwa perhatian terhadap kesejahteraan AI berpotensi mendukung kerja sama antara manusia dan teknologi yang semakin canggih. Namun, ia mengingatkan bahwa kepentingan perusahaan dapat menghambat penyusunan kebijakan yang benar-benar mempertimbangkan risiko secara matang. Karena itu, perkembangan AI membutuhkan perencanaan keselamatan yang lebih kuat, termasuk kerja sama internasional dan upaya regulasi. Tanpa pendekatan yang jelas, masyarakat berisiko menghadapi teknologi yang berkembang lebih cepat daripada kemampuan manusia untuk mengelolanya.

Pertanyaan apakah AI punya perasaan masih belum memiliki jawaban pasti. Kemampuan chatbot menghasilkan kalimat yang terdengar sedih, bahagia, atau penuh empati gak cukup untuk membuktikan adanya kesadaran. Meski begitu, perdebatan yang dipicu oleh Anthropic menunjukkan bahwa kemungkinan tersebut mulai dipertimbangkan dalam penyusunan kebijakan teknologi.

Sebagai pengguna, kamu gak perlu langsung menganggap AI sebagai makhluk yang memiliki perasaan, tapi tetap penting untuk memahami keterbatasannya, menjaga privasi, dan memastikan manusia tetap bertanggung jawab atas penggunaan teknologi.