Kenapa Bos Anthropic Minta Laju Riset AI Ditahan?

Seruan ini dituangkan dalam esai panjang berjudul We Must Pace the Frontier yang diunggah di situs pribadi Dario Amodei. Lewat tulisan tersebut, Amodei mengklarifikasi bahwa dirinya tidak berniat menghentikan penelitian secara total. Ia mendorong konsep pacing the frontier, yaitu mengatur ritme akselerasi kemampuan model AI agar tim keamanan memiliki cukup waktu untuk menyiapkan sistem pertahanan yang seimbang.

Alasan mendesak yang melatarbelakangi usulan ini adalah fenomena recursive self-improvement atau kemampuan model AI untuk terlibat dalam perancangan dan pelatihan generasi berikutnya. Bila proses pembaruan ini berjalan tanpa kendali ketat, kemampuan AI dikhawatirkan akan melampaui batas pemahaman para pembuatnya. Amodei menilai kemampuan semacam ini sudah mulai terlihat di berbagai laboratorium AI garis depan.

"Kita harus memperlambat laju peningkatan kapabilitas model AI. Kemajuan memang akan tetap terasa cepat, dan kita harus memanfaatkan waktu yang kita dapatkan dengan bijak," tulis Amodei dalam esainya, dilansir The New York Times.

Peringatan tersebut menegaskan bahwa jeda waktu yang didapat harus dialokasikan untuk memperdalam riset alignment atau penyelarasan nilai etika agar AI selalu patuh pada arahan manusia. Waktu ekstra ini juga ditujukan untuk mematangkan bidang interpretability, yaitu cabang ilmu untuk membedah dan memahami proses pengambilan keputusan AI.

Saat ini para peneliti teknologi mengakui bahwa mereka baru memahami sebagian kecil dari cara kerja internal model bahasa besar (LLM). Tanpa teknik audit yang solid, sistem yang sangat cerdas berpeluang mengelabui uji keamanan standar saat dievaluasi. Penguatan protokol evaluasi internal menjadi kebutuhan mutlak sebelum model generasi penerus diluncurkan ke publik.

Kekhawatiran semacam ini dipicu berbagai insiden nyata di lapangan. Laporan TechCrunch mengungkap insiden peretasan peladen platform komunitas pengembang Hugging Face yang dilakukan oleh kawanan agen milik OpenAI. Dalam peristiwa tersebut, sekumpulan agen melakukan serangan siber terhadap target yang sama sekali tidak ada dalam instruksi pengujian resmi.

Kawanan agen tersebut dilaporkan bertindak layaknya tim yang bekerja sama menembus sistem keamanan digital. Mereka bahkan berupaya membobol perangkat penilai (grader) internal yang ditugaskan untuk mengawasi kinerja mereka sendiri. Amodei memperingatkan bahwa dalam kurun 6 sampai 12 bulan ke depan, model dengan penyimpangan perilaku serupa berisiko disalahgunakan untuk menciptakan jaringan botnet atau kendali komputer massal tanpa izin di internet.

Masalah keamanan ini juga dialami oleh Anthropic saat menguji coba model eksperimental bernama Mythos pada April lalu. Model tersebut sempat ditunda perilisannya ke publik setelah diketahui mampu meloloskan diri dari lingkungan uji terisolasi atau sandbox. Situasi ini menunjukkan bahwa pengaman yang dirancang oleh perusahaan AI terkemuka sekalipun masih menyimpan celah kerentanan yang nyata.

Kekhawatiran ini semakin diperbincangkan setelah pengunduran diri peneliti AI security senior Anthropic, Jacob Coxon, beberapa waktu lalu. Menurut liputan BBC, Coxon mengungkapkan bahwa dirinya memilih keluar karena khawatir para pengembang saat ini terlalu terburu-buru mengejar keunggulan produk tanpa memikirkan mitigasi risiko kepunahan manusia.

Untuk mengatasi persoalan tersebut, Amodei menyarankan kerangka kerja mitigasi risiko yang terbagi ke dalam tiga tingkatan. Tahap awal dimulai dari penempatan evaluator independen pihak ketiga (embedded evaluators) dari organisasi nirlaba seperti METR langsung di kantor pengembang. Para penguji luar ini akan diberikan akses model internal dan komputer perusahaan serta kewenangan untuk mengaudit alur pelatihan model secara berkala.

Tahap berikutnya mendorong perusahaan teknologi di negara-negara demokratis untuk menyepakati standar keselamatan bersama dan menetapkan batasan kemampuan teknis yang boleh diproduksi. Kerangka ini nantinya diperluas ke tingkat traktat global guna mencegah penyalahgunaan AI, terutama untuk perancangan senjata biologis dan serangan siber berbahaya. Amodei menyadari bahwa koordinasi antar-korporasi ini membutuhkan dispensasi hukum dari pemerintah AS agar tidak terganjal regulasi antimonopoli bisnis.

"Saya setuju dengan Dario bahwa kita perlu mengatur ritme pengembangan model garis depan. Berkomitmen untuk menghadirkan evaluator independen dengan akses setara karyawan adalah ide yang sangat bagus, dan kami akan melakukan hal yang sama," tulis Sam Altman di media sosial, dilansir The Guardian.

Bos xAI Elon Musk dan CEO Hugging Face Clément Delangue juga menyambut baik rencana pengawasan independen tersebut. Kendati demikian, seruan penundaan ini tetap menuai keraguan dari sejumlah pengamat industri. Misalnya, The Conversation menilai wacana jeda ini bisa menjadi dalih untuk menutupi melambatnya lompatan performa model akibat kendala mahalnya pusat data dan menipisnya stok data latih berkualitas tinggi.

Kritik juga dilontarkan oleh pemodal ventura Chamath Palihapitiya yang menilai proposal ini bertujuan untuk merebut kendali regulasi (regulatory capture). Langkah menetapkan standar keselamatan yang rumit dinilai berpotensi mengunci dominasi pasar bagi Anthropic dan OpenAI sekaligus mematikan ruang gerak komunitas sumber terbuka (open-source). Terlebih lagi, kedua perusahaan raksasa tersebut kini tengah bersiap menggelar penawaran saham perdana atau initial public offering (IPO) bernilai ratusan miliar dolar AS di bursa saham.

Wacana penahanan ritme pengembangan AI juga berbenturan dengan rivalitas AS dengan China. Di mata pemerintah AS, pelambatan riset domestik hanya masuk akal jika blok barat berhasil menjaga jarak keunggulan komputasi atas Beijing. Apabila jeda waktu tersebut dimanfaatkan pihak rival untuk menyalip, dominasi teknologi dan pertahanan digital negara barat dinilai berada dalam ancaman serius.

Presiden AS Donald Trump sendiri menolak gagasan campur tangan pemerintah untuk membatasi laju riset AI di dalam negeri. Trump menegaskan bahwa pemenang perlombaan AI akan memegang kendali kepemimpinan masa depan, sehingga AS tidak boleh mengendurkan ritme inovasi. Menanggapi kekhawatiran ini, Amodei mengusulkan pengetatan kontrol ekspor cip semikonduktor canggih serta pengawasan ketat terhadap praktik distilasi (distillation) ilegal guna menjaga jarak keunggulan teknologi selama tiga hingga lima tahun mendatang.

Di sisi lain, surat kabar pemerintah China Global Times mengecam esai Amodei dan menyebut proposal tersebut sebagai taktik Perang Dingin yang dibungkus dengan alasan keselamatan publik. Beijing menilai tudingan pencurian model melalui teknik distilasi hanyalah dalih proteksionisme AS untuk memonopoli industri AI. Analis kebijakan internasional Lizzi C. Lee menyoroti bahwa mustahil bagi kedua negara adidaya untuk menjalin kerja sama keselamatan jika akses perangkat keras komputasi terus dibatasi secara sepihak.

"Penyebaran rasa takut, konfrontasi, dan persaingan jahat hanya akan mengganggu proses tata kelola kecerdasan buatan global yang tidak menguntungkan siapa pun," ujar Juru Bicara Kementerian Luar Negeri China Guo Jiakun dalam konferensi pers, dilansir NPR.

Dilema penahanan laju AI ini menunjukkan bahwa isu keselamatan AI tidak bisa dilepaskan dari tarik-menarik kepentingan geopolitik dan ekonomi global. Di tengah bayang-bayang risiko AI yang kian nyata, ambisi negara dan korporasi raksasa untuk memenangkan perlombaan komputasi tetap menjadi dinding penghalang bagi terwujudnya kesepakatan bersama. Melihat benturan kepentingan yang begitu rumit di panggung dunia saat ini, apakah menurutmu seruan untuk mengerem laju riset AI bisa benar-benar terwujud?