Sekjen PBB Ingin Ada Badan Pengawas Dunia untuk Teknologi AI

Teknologi AI semakin menjadi perhatian global. Teknologi tersebut menjadi semakin terkenal usai ChatGPT diluncurkan secara publik sekitar enam bulan lalu, dan menjadi aplikasi dengan pertumbuhan tercepat sepanjang masa.

Teknologi AI sejauh ini dapat merangkai prosa dari perintah teks dan membuat gambar dari perintah kalimat. Bahkan, AI juga memiliki kemampuan membuat gambar deepfake.

Dilansir XM, Guterres mendukung proposal untuk membentuk badan pengawas teknologi AI. Menurutnya, lonceng peringatan telah dibunyikan oleh pengembang yang merancang teknologi tersebut.

"Kita harus menanggapi peringatan itu dengan serius," kata Guterres.

Badan AI nantinya terdiri para pakar yang akan secara teratur meninjau pengaturan tata kelola teknologi tersebut, dan memberi tawaran rekomendasi penyelarasan dengan hak asasi manusia, supremasi hukum dan kebaikan bersama.

Guterres mengatakan, teknologi AI sementara ini telah dibuat dan dikembangkan untuk kebaikan manusia. Namun, risiko yang ditimbulkan bisa mengancam demokrasi dan hak asasi manusia, katanya dikutip dari Al Jazeera.

"Para ilmuwan dan pakar ini telah meminta dunia untuk bertindak, menyatakan AI sebagai ancaman eksistensial bagi umat manusia yang setara dengan risiko perang nuklir. Kita harus menanggapi peringatan itu dengan serius," kata Guterres.

Nantinya, badan AI akan meniru model badan energi atom internasional (IAEA), dengan catatan hanya negara anggota yang dapat mendirikannya bukan PBB.

OpenAI, perusahaan yang membuat ChatGPT, bulan lalu mengatakan bahwa badan seperti IAEA dapat membuat batasan penerapan, memeriksa kepatuhan standar keselamatan, dan melacak penggunaan daya komputasi.

Teknologi AI telah bergerak cepat dan menjadi industri masa depan yang diperkirakan dapat menggantikan berbagai macam pekerjaan. Perkembangan itu membutuhkan norma yang lebih fleksibel, karena aturan saat ini bisa menjadi usang di masa berikutnya.

"Kita membutuhkan sebuah proses, proses intervensi yang konstan dari berbagai pemangku kepentingan, bekerja sama untuk secara permanen menetapkan sejumlah mekanisme hukum lunak, sejumlah, menurut saya, norma, kode etik, dan lain-lain," kata Guterres dikutip dari VOA News.

Kode etik yang disusun, menurut Guterres, diharapkan dapat dipatuhi oleh perusahaan teknologi dan pemerintah. Tujuannya mengurangi penyebaran informasi yang keliru dan ujaran kebencian.

“Usulannya untuk menciptakan pagar pembatas, membantu pemerintah menyatukan pedoman yang mempromosikan fakta, sambil mengungkap konspirasi dan kebohongan, dan menjaga kebebasan berekspresi dan informasi," jelasnya.

Guterres melontarkan kritik sebab perusahaan teknologi tidak berbuat banyak mencegah platformnya menyebarkan kebencian dan kekerasan. Dia juga mengkritik pemerintah karena mengabaikan hak asasi manusia dan terkadang menutup internet secara menyeluruh.