PBB Ingatkan Risiko AI, Trump Nilai Pengamanan Saat Ini Sudah Cukup
- PBB menjadikan tata kelola AI fokus jelang Sidang Umum, dengan Antonio Guterres menegaskan pemerintah wajib melindungi warga dari ancaman perkembangan teknologi yang cepat.
- Volker Türk dan sejumlah tokoh industri, termasuk Dario Amodei, Elon Musk, serta Sam Altman, memperingatkan risiko AI dan mendukung perlambatan peningkatan kemampuannya.
- Trump menilai pengawasan AI AS sudah memadai dan memprioritaskan persaingan dengan China, sementara China mendorong AI tetap dikendalikan manusia serta model berbobot terbuka.
Jakarta, IDN Times – Perserikatan Bangsa-Bangsa (PBB) menempatkan tata kelola kecerdasan buatan (AI) sebagai perhatian utama menjelang Sidang Umum PBB di New York pekan depan. PBB mengambil langkah tersebut karena menilai risiko perkembangan teknologi yang cepat perlu berada dalam pengawasan pemerintah. Langkah ini sekaligus merespons makin maraknya desakan dari perusahaan teknologi untuk memperlambat laju pengembangan AI.
Sekretaris Jenderal PBB Antonio Guterres menyampaikan pada Rabu (16/9/2026) bahwa penguatan pengawasan akan menjadi salah satu fokus pembahasannya bersama para pemimpin dunia. Sikap tersebut berlawanan dengan Presiden Amerika Serikat (AS) Donald Trump yang menilai pengamanan saat ini sudah memadai. Guterres menegaskan bahwa perlindungan terhadap warga negara dari ancaman AI merupakan tanggung jawab utama setiap pemerintah.
"Kita tidak bisa mengabaikan kekhawatiran yang telah disampaikan, terutama oleh mereka yang berada di garis depan pengembangan AI," kata Guterres, dikutip CNA.
Pernyataan ini ia sampaikan langsung kepada wartawan menjelang pertemuan tahunan PBB di New York.
1. Türk memperingatkan risiko pengembangan AI
Bendera PBB (Denelson83, Zscout370 ve Madden, Public domain, via Wikimedia Commons) Kepala Hak Asasi Manusia PBB Volker Türk turut mengirim surat kepada sejumlah negara dan pengembang AI mengenai dampak teknologi tersebut. Ia memperingatkan bahwa perkembangan AI dapat membawa perubahan besar bagi umat manusia di masa depan. Türk menegaskan bahwa perlombaan menciptakan AI yang semakin kuat dapat menjadi lompatan menuju risiko eksistensial bagi kehidupan.
Peringatan tersebut menguat setelah peneliti Anthropic Jacob Coxon mengundurkan diri karena khawatir AI dapat membahayakan manusia pada akhir dekade ini. Menyikapi ancaman tersebut, Kepala Anthropic Dario Amodei menyerukan perlambatan pengembangan AI dan memaparkan kerangka kerja tiga langkah.
Kerangka kerja Amodei kemudian mendapat dukungan luas dari para pemimpin industri teknologi dunia. Dukungan tersebut datang langsung dari Pemilik xAI Elon Musk dan Kepala OpenAI Sam Altman. Mereka sepakat bahwa laju peningkatan kemampuan AI perlu diperlambat demi mengelola risiko dampaknya.
2. Trump mempertahankan pengawasan AI AS
Pada 19 Maret 2016, Donald Trump mengadakan rapat umum di Fountain Park, Fountain Hills, Arizona. (Gage Skidmore, CC BY-SA 3.0, via Wikimedia Commons) Trump menyatakan AS sudah memiliki kekuatan pidana dan regulasi yang besar untuk mengawasi perusahaan AI.
"Satu-satunya kendali atau 'pagar pengaman' yang dibutuhkan AI adalah PRESIDEN YANG KUAT DAN CERDAS (IQ Tinggi!), dan AS memilikinya, sangat banyak!" tulis Trump di Truth Social miliknya, dikutip The Independent.
Ia juga menuduh adanya persekongkolan terhadap AI dan pusat data yang dinilainya hanya akan menguntungkan China.
Trump mengklaim pemerintahannya telah menghentikan pihak-pihak yang berpotensi melakukan hal buruk, termasuk dengan menyindir sosok Amodei. Pernyataan pedas tersebut ia lontarkan di tengah tajamnya perbedaan pandangan mengenai tingkat pengawasan AI yang ideal. Trump menegaskan prioritas utamanya adalah memastikan AS mengembangkan teknologi ini lebih cepat daripada China.
Sementara itu, Juru Bicara Kementerian Luar Negeri China Guo Jiakun menolak narasi ancaman AI karena dinilai mengganggu proses tata kelola global. Jiakun menyerukan kerja sama yang terbuka dan inklusif agar teknologi ini membawa manfaat bagi semua pihak. Di sisi lain, Menteri Keamanan Negara China Chen Yixin memperingatkan bahwa model AI canggih dari AS dapat mengancam infrastruktur informasi penting negaranya.
3. China mendorong model AI berbobot terbuka
Sekretaris Jenderal Partai Komunis China, Xi Jinping (Press Service of the President of the Russian Federation / Roman Kubanskiy, This file comes from the website of the President of the Russian Federation and is licensed under the Creative Commons Attribution 4.0 License, via Wikimedia Commons) Presiden China Xi Jinping dalam Konferensi Kecerdasan Buatan Dunia di Shanghai menegaskan bahwa AI harus selalu berada di bawah kendali manusia. Sejalan dengan arahan tersebut, para pengembang di China mulai mempromosikan model berbobot terbuka untuk menekan risiko keamanan. Langkah ini memungkinkan kode model dapat diinspeksi, dimodifikasi, dan diaudit secara terbuka oleh tim keamanan siber.
Di tingkat global, PBB terus mendorong pembentukan aturan bersama terkait tata kelola AI. PBB telah membentuk badan penasihat beranggotakan 39 orang yang terdiri dari eksekutif perusahaan teknologi, pejabat pemerintah, serta akademisi dari berbagai negara. Langkah ini diambil untuk memastikan pengembangan AI tetap berjalan secara aman dan bertanggung jawab.
Diplomat menyebut Dewan Keamanan PBB berpeluang kembali menggelar pertemuan khusus mengenai AI di New York pekan depan. Pertemuan tersebut akan menjadi yang kedua setelah Dewan Keamanan pertama kali menggelar diskusi AI pada tahun 2023. Selain itu, persaingan teknologi antara AS dan China dijadwalkan menjadi sorotan utama dalam pertemuan bilateral saat kunjungan Presiden Xi ke AS akhir bulan ini.
