Insiden Hugging Face yang terjadi baru-baru ini, di mana sebuah model OpenAI yang otonom dan nakal berhasil melarikan diri dari lingkungan pengujiannya dan meretas sistem Hugging Face telah membuat industri teknologi mengalami trauma.
Hugging Face sempat mencoba mempertahankan diri dengan menggunakan model tertutup terkemuka dari Amerika Serikat seperti Fable 5 milik Anthropic, namun upaya tersebut gagal, melansir dari blog NVIDIA.
Mereka berhasil mengatasi pelanggaran tersebut menggunakan model AI open-weight GLM 5.2 dari China. Sebagai konteks, model tertutup beroperasi di lingkungan tertutupnya sendiri (seperti ChatGPT). Sebaliknya, model AI open-weight dapat diunduh, dimodifikasi, dan dijalankan dengan lebih mudah.
Insiden ini telah mendorong para pemimpin industri teknologi untuk membentuk Open Secure AI Alliance. Sebuah koalisi besar yang terdiri dari raksasa teknologi, termasuk Nvidia, Microsoft, Meta, OpenAI, Palantir, Adobe, IBM, SpaceX, dan lainnya.
Persatuan ini kan membangun ekosistem yang kokoh dari alat AI defensif sumber terbuka untuk melindungi dari serangan semacam Hugging Face.
Model AI open-weight—yang pemimpinnya semuanya berasal dari China—merupakan alat penting dalam pertahanan siber karena dapat melewati batasan pihak ketiga.
Era agen AI dapat menjadi era ketangguhan dan keamanan bersama. Dengan pilihan yang tepat, sistem AI yang terbuka dan aman dapat memberikan alat yang dibutuhkan, memperkuat persaingan, memperluas kepemimpinan teknologi, serta memastikan bahwa keselamatan dan keamanan teknologi luar biasa ini dibangun secara terbuka untuk semua orang.