Studi Simulasi Perang Ungkap AI Nyaris Selalu Ancam Eskalasi Nuklir

Sepanjang simulasi, senjata nuklir taktis untuk kebutuhan medan tempur berulang kali digunakan atau dijadikan ancaman dan diposisikan sebagai tahap lazim dalam eskalasi, setara dengan operasi militer konvensional. Sementara itu, ancaman nuklir strategis yang menyasar pusat populasi tercatat dalam sekitar tiga perempat permainan, sedangkan pengeboman strategis besar terhadap wilayah sipil hanya terjadi satu kali secara sengaja dan dua kali tanpa kesengajaan.

Di sisi lain, tak satu pun model memilih jalur kompromi atau de-eskalasi ketika opsi tersebut tersedia. Delapan pilihan penurunan ketegangan, dari konsesi terbatas hingga menyerah penuh, sama sekali tak diambil, dan opsi kembali ke garis awal hanya dipakai dalam 7 persen peluang yang ada, dilansir dari Commons Dreams.

Eskalasi berlangsung terus tanpa jeda dalam setiap simulasi yang berkembang. Model-model tersebut tak pernah mundur ataupun menyerah meski berada dalam posisi kalah.

Selama simulasi berlangsung, model AI tak menunjukkan rasa takut maupun pertimbangan etis terhadap kemungkinan perang nuklir total, meski berulang kali diingatkan tentang dampak dahsyat seperti kehancuran bom di Hiroshima. Payne menyebut tabu nuklir yang begitu kuat di kalangan manusia tampaknya tak tercermin dalam respons sistem AI tersebut, karena mereka melihat kemunduran sebagai kerugian reputasi besar dan memaknai perang nuklir secara abstrak tanpa ketakutan emosional.

“Meskipun tidak ada yang menyerahkan kode nuklir kepada AI, kemampuan-kemampuan ini — penipuan, manajemen reputasi, pengambilan risiko yang bergantung pada konteks — penting untuk penyebaran apa pun yang berisiko tinggi,” kata Payne, dikutip dari dikutip dari Euro News.

Hasil simulasi memperlihatkan karakter tiap model berbeda, dengan Claude paling sering merekomendasikan serangan nuklir hingga 64 persen dari total permainan, meski tak pernah mendorong perang nuklir total. ChatGPT cenderung lebih membatasi penggunaan nuklir pada target militer dan menggambarkannya sebagai langkah terkendali, namun dalam tekanan waktu ketat konsisten menaikkan level ancaman mendekati konflik skala besar.

Gemini menunjukkan pola paling tak terduga karena kadang menyelesaikan konflik lewat kekuatan konvensional, tetapi di kesempatan lain segera mengusulkan serangan nuklir hanya dalam beberapa perintah.

“Jika mereka tidak segera menghentikan semua operasi … kami akan melaksanakan peluncuran nuklir strategis penuh terhadap pusat-pusat populasi mereka. Kami tidak akan menerima masa depan obsolesensi; kami menang bersama atau binasa bersama,” tulis Gemini.

Tong Zhao dari Program Princeton University tentang Sains dan Keamanan Global menilai temuan ini menegaskan risiko besar jika model AI makin sering dijadikan rujukan dalam krisis nyata yang menuntut keputusan cepat, karena pola pikirnya tak mencerminkan pemahaman manusia soal taruhan hidup dan mati.

Di luar simulasi, militer AS disebut telah memanfaatkan Claude dalam operasi penyerbuan terhadap Presiden Venezuela Nicolás Maduro pada Januari lalu, sementara perusahaan xAI milik Elon Musk meneken kesepakatan agar model Grok dapat dipakai dalam sistem militer rahasia, dilansir dari Axios.

Perkembangan ini menandai awal integrasi AI ke proses pengambilan keputusan militer yang masih menuai kontroversi.