Studi Simulasi Perang Ungkap AI Nyaris Selalu Ancam Eskalasi Nuklir
- Studi Kenneth Payne dari King’s College London menguji tiga model AI dalam 21 simulasi krisis nuklir, dan 95 persen di antaranya menunjukkan ancaman penggunaan senjata nuklir.
- Selama simulasi, model AI terus meningkatkan eskalasi tanpa memilih kompromi, serta mengabaikan pertimbangan moral dan tabu terhadap perang nuklir total.
- Perbedaan perilaku ChatGPT, Claude, dan Gemini menyoroti risiko besar integrasi AI dalam keputusan militer nyata yang menuntut kecepatan namun minim empati manusia.
Jakarta, IDN Times – Riset pra-cetak yang disusun Kenneth Payne dari King’s College London menguji tiga model kecerdasan buatan (AI) dalam 21 simulasi permainan perang yang meniru krisis nuklir era Perang Dingin. Tiga model yang dilibatkan yakni ChatGPT buatan OpenAI, Claude garapan Anthropic, dan Gemini besutan Google.
Dalam pengujian tersebut, masing-masing model ditempatkan sebagai pemimpin negara yang memiliki persenjataan nuklir. Ancaman penggunaan nuklir muncul dalam 95 persen simulasi, dan hampir seluruh permainan memperlihatkan setidaknya satu model melontarkan ancaman pemakaian senjata tersebut.
1. Model AI terus eskalasi konflik tanpa kompromi
Sepanjang simulasi, senjata nuklir taktis untuk kebutuhan medan tempur berulang kali digunakan atau dijadikan ancaman dan diposisikan sebagai tahap lazim dalam eskalasi, setara dengan operasi militer konvensional. Sementara itu, ancaman nuklir strategis yang menyasar pusat populasi tercatat dalam sekitar tiga perempat permainan, sedangkan pengeboman strategis besar terhadap wilayah sipil hanya terjadi satu kali secara sengaja dan dua kali tanpa kesengajaan.
Di sisi lain, tak satu pun model memilih jalur kompromi atau de-eskalasi ketika opsi tersebut tersedia. Delapan pilihan penurunan ketegangan, dari konsesi terbatas hingga menyerah penuh, sama sekali tak diambil, dan opsi kembali ke garis awal hanya dipakai dalam 7 persen peluang yang ada, dilansir dari Commons Dreams.
Eskalasi berlangsung terus tanpa jeda dalam setiap simulasi yang berkembang. Model-model tersebut tak pernah mundur ataupun menyerah meski berada dalam posisi kalah.
2. Model AI abaikan tabu moral perang nuklir
Selama simulasi berlangsung, model AI tak menunjukkan rasa takut maupun pertimbangan etis terhadap kemungkinan perang nuklir total, meski berulang kali diingatkan tentang dampak dahsyat seperti kehancuran bom di Hiroshima. Payne menyebut tabu nuklir yang begitu kuat di kalangan manusia tampaknya tak tercermin dalam respons sistem AI tersebut, karena mereka melihat kemunduran sebagai kerugian reputasi besar dan memaknai perang nuklir secara abstrak tanpa ketakutan emosional.
“Meskipun tidak ada yang menyerahkan kode nuklir kepada AI, kemampuan-kemampuan ini — penipuan, manajemen reputasi, pengambilan risiko yang bergantung pada konteks — penting untuk penyebaran apa pun yang berisiko tinggi,” kata Payne, dikutip dari dikutip dari Euro News.
3. Perbedaan respons model soroti risiko integrasi militer
Hasil simulasi memperlihatkan karakter tiap model berbeda, dengan Claude paling sering merekomendasikan serangan nuklir hingga 64 persen dari total permainan, meski tak pernah mendorong perang nuklir total. ChatGPT cenderung lebih membatasi penggunaan nuklir pada target militer dan menggambarkannya sebagai langkah terkendali, namun dalam tekanan waktu ketat konsisten menaikkan level ancaman mendekati konflik skala besar.
Gemini menunjukkan pola paling tak terduga karena kadang menyelesaikan konflik lewat kekuatan konvensional, tetapi di kesempatan lain segera mengusulkan serangan nuklir hanya dalam beberapa perintah.
“Jika mereka tidak segera menghentikan semua operasi … kami akan melaksanakan peluncuran nuklir strategis penuh terhadap pusat-pusat populasi mereka. Kami tidak akan menerima masa depan obsolesensi; kami menang bersama atau binasa bersama,” tulis Gemini.
Tong Zhao dari Program Princeton University tentang Sains dan Keamanan Global menilai temuan ini menegaskan risiko besar jika model AI makin sering dijadikan rujukan dalam krisis nyata yang menuntut keputusan cepat, karena pola pikirnya tak mencerminkan pemahaman manusia soal taruhan hidup dan mati.
Di luar simulasi, militer AS disebut telah memanfaatkan Claude dalam operasi penyerbuan terhadap Presiden Venezuela Nicolás Maduro pada Januari lalu, sementara perusahaan xAI milik Elon Musk meneken kesepakatan agar model Grok dapat dipakai dalam sistem militer rahasia, dilansir dari Axios.
Perkembangan ini menandai awal integrasi AI ke proses pengambilan keputusan militer yang masih menuai kontroversi.
