Sam Altman Akui AI Bisa Lepas Kendali, Dunia Diminta Waspada

Sam Altman menyampaikan bahwa ada dua skenario yang harus dihindari dalam perkembangan AI. Salah satunya adalah kemungkinan manusia kehilangan kendali atas masa depan karena AI yang semakin canggih. Menurut Altman, kondisi tersebut gak bisa diterima karena AI seharusnya tetap digunakan untuk melayani kepentingan manusia.

Karena itu, Altman menilai teknik alignment dan keselamatan AI harus terus berkembang lebih cepat atau setidaknya mampu mengimbangi peningkatan kemampuan model. Alignment sendiri secara sederhana berkaitan dengan upaya untuk memastikan AI tetap mengikuti tujuan dan nilai yang diinginkan manusia. Buat kamu sebagai pengguna, persoalan ini penting karena semakin pintar sebuah sistem AI, semakin besar pula kebutuhan untuk memastikan teknologi tersebut tetap berada dalam batas yang aman.

Risiko kedua yang disoroti Altman bukan hanya soal AI yang sulit dikendalikan, tetapi juga siapa yang memiliki kendali atas teknologi tersebut. Ia memperingatkan bahwa dunia bisa menghadapi masalah jika AI yang sangat kuat hanya berada di tangan satu orang atau satu perusahaan. Teknologi tersebut berpotensi digunakan untuk memaksakan pandangan tertentu kepada masyarakat luas.

Altman menggambarkan situasi tersebut sebagai sesuatu yang bisa menciptakan kondisi yang sangat distopia. Risiko serupa juga dapat muncul jika satu negara berhasil mendapatkan kekuatan AI yang jauh lebih besar dibandingkan dengan negara lainnya. Artinya, menurut pandangan Altman, tantangan AI bukan sekadar membuat teknologinya aman, tapi juga mencegah kekuatan yang terlalu besar terkumpul pada satu pihak.

Kekhawatiran mengenai AI gak hanya datang dari Altman. CEO Anthropic, Dario Amodei, juga mengatakan bahwa risiko AI membutuhkan kehati-hatian yang lebih besar, termasuk mengatur kecepatan peningkatan kemampuan model. Menurut Amodei, pencegahan risiko harus memiliki cukup waktu untuk mengejar perkembangan kemampuan AI yang terus melaju.

Amodei menilai perkembangan teknologi tetap akan terasa cepat meskipun lajunya diperlambat. Namun, waktu tambahan tersebut bisa digunakan untuk memperkuat berbagai sistem pencegahan risiko sebelum model AI menjadi semakin kuat. Jadi, kalau kamu melihat perkembangan AI terasa sangat pesat dari tahun ke tahun, kekhawatiran utamanya bukan cuma seberapa canggih teknologinya, tapi apakah sistem keamanannya ikut berkembang dengan kecepatan yang sama.

Peringatan tersebut menjadi semakin serius setelah sejumlah peneliti AI menyampaikan kekhawatiran mengenai perkembangan teknologi AI tingkat lanjut. Jacob Coxon, yang sebelumnya bekerja di Anthropic, bahkan mengundurkan diri dan menyatakan kekhawatirannya terhadap cara perusahaan-perusahaan AI mengembangkan sistem yang semakin kuat. Ia menilai pengembangan AI membutuhkan tanggung jawab yang lebih besar.

Kekhawatiran serupa juga disampaikan Evan Hubinger, Alignment Science Lead di Anthropic. Ia menanggapi pernyataan Coxon dengan mengatakan bahwa kekhawatiran tersebut masuk akal dan memperkirakan terdapat kemungkinan lebih dari 10 persen bahwa teknologi ini bisa menyebabkan kepunahan manusia. Angka tersebut tentu merupakan penilaian pribadi seorang peneliti, bukan kepastian bahwa skenario tersebut akan terjadi, tapi pernyataan itu menunjukkan betapa seriusnya sebagian orang di industri AI melihat potensi risikonya.

Pernyataan Sam Altman akui AI bisa lepas kendali menunjukkan bahwa perkembangan teknologi memang berada di persimpangan yang rumit. Di satu sisi, AI menawarkan manfaat besar untuk pekerjaan, penelitian, bisnis, hingga berbagai aktivitas sehari-hari. Di sisi lain, semakin besar kemampuan AI, semakin penting pula memastikan teknologi tersebut gak digunakan secara berbahaya atau berkembang tanpa pengawasan yang memadai.

Respons terhadap kekhawatiran ini juga gak sepenuhnya sama. Presiden Donald Trump justru menekankan pentingnya mempertahankan keunggulan Amerika Serikat dalam perlombaan AI karena menurutnya negara yang memenangkan perlombaan AI akan memiliki posisi yang sangat kuat. Buat kamu, perdebatan ini menunjukkan bahwa masa depan AI gak hanya soal teknologi, tapi juga menyangkut keamanan, kekuasaan, persaingan antarnegara, dan bagaimana manusia menentukan batas perkembangan teknologi.

Sam Altman sendiri mengakui bahwa ada risiko serius jika perkembangan AI gak diimbangi dengan sistem keselamatan yang memadai. Tantangannya adalah mencari jalan tengah agar teknologi tetap berkembang tanpa membuat manusia kehilangan kendali atau memberikan kekuatan berlebihan kepada pihak tertentu. Karena itu, semakin canggih AI yang kamu gunakan, semakin penting juga untuk memahami bahwa kemajuan teknologi selalu datang bersama tanggung jawab untuk mengelolanya.