Kenapa Perusahaan AI Seolah Bikin Kita Takut pada Ciptaannya?

Salah satu contoh yang menarik datang dari Anthropic, perusahaan pengembang AI Claude. Perusahaan ini memperkenalkan model AI bernama Claude Mythos yang diklaim mampu menemukan celah keamanan siber dengan kemampuan melampaui pakar manusia. Anthropic memperingatkan bahwa teknologi tersebut berpotensi menimbulkan dampak serius terhadap perekonomian, keselamatan publik, hingga keamanan nasional apabila jatuh ke tangan yang salah. Peringatan semacam ini tentu bisa membuat masyarakat bertanya-tanya seberapa berbahaya AI yang sedang dikembangkan oleh perusahaan teknologi.

Namun, ada sisi lain yang perlu kamu perhatikan. Ketika perusahaan menggambarkan produknya sebagai teknologi yang sangat kuat sekaligus berbahaya, perhatian publik secara otomatis tertuju pada kemampuan luar biasa produk tersebut. Narasi seperti ini berpotensi menciptakan kesan bahwa perusahaan sedang mengembangkan sesuatu yang jauh lebih hebat dibandingkan teknologi lainnya. Bagi perusahaan yang bersaing memperebutkan pasar AI, perhatian tersebut bisa menjadi keuntungan tersendiri.

Sejumlah kritikus menilai bahwa peringatan berlebihan tentang kehancuran akibat AI dapat berfungsi sebagai bentuk pemasaran berbasis ketakutan. Kekhawatiran publik membuat teknologi tersebut terlihat semakin penting, sementara perusahaan pengembangnya seolah menjadi pihak yang paling memahami cara mengendalikan risiko. Meski begitu, kamu perlu membedakan antara dugaan strategi pemasaran dan bukti bahwa perusahaan memang sengaja membesar-besarkan ancaman, ya. Gak semua peringatan otomatis merupakan taktik bisnis, tapi kepentingan komersial tetap layak diperhitungkan ketika kamu menilai klaim perusahaan teknologi.

Ketika pembicaraan mengenai AI didominasi oleh kemungkinan teknologi mengambil alih dunia, berbagai persoalan yang sudah muncul sekarang berisiko mendapat perhatian lebih sedikit. Padahal, perkembangan AI juga berkaitan dengan isu lingkungan, kondisi pekerja, keamanan data, dan dampak sosial. Pusat data yang menjalankan sistem AI membutuhkan energi dalam jumlah besar, sedangkan proses pengembangan teknologi ini melibatkan pekerjaan manusia yang sering kali tak terlihat oleh pengguna. Masalah-masalah tersebut membutuhkan pembahasan serius karena dampaknya berkaitan langsung dengan kehidupan masyarakat.

Emily M. Bender, profesor linguistik komputasional dan pemrosesan bahasa alami di University of Washington sekaligus salah satu penulis buku The AI Con, mengkritik pola komunikasi industri AI yang terlalu menonjolkan ancaman besar di masa depan. Menurut pandangannya, perhatian masyarakat bisa teralihkan dari kerusakan lingkungan, eksploitasi tenaga kerja, dan perubahan sosial yang sudah terjadi. Akibatnya, publik lebih sibuk memikirkan kemungkinan AI menghancurkan umat manusia daripada mempertanyakan bagaimana teknologi tersebut dikembangkan dan digunakan saat ini.

Bagi kamu sebagai pengguna AI, persoalan ini penting karena dampak teknologi gak selalu berbentuk ancaman dramatis. Informasi yang keliru, penyalahgunaan data pribadi, penipuan menggunakan konten palsu, dan kesalahan sistem dalam memberikan rekomendasi merupakan persoalan yang lebih dekat dengan kehidupan sehari-hari. Semua itu membutuhkan aturan, pengawasan, dan pertanggungjawaban yang jelas. Jadi, pembahasan mengenai keselamatan AI sebaiknya gak berhenti pada skenario kiamat saja, tapi juga mencakup risiko yang sudah bisa diamati sekarang.

Pernahkah kamu berpikir bahwa semakin berbahaya suatu teknologi digambarkan, semakin besar pula kebutuhan terhadap pihak yang mengaku mampu mengendalikannya? Pola tersebut menjadi salah satu alasan mengapa narasi ancaman AI perlu diperhatikan secara kritis. Jika masyarakat percaya bahwa hanya perusahaan pengembang yang memahami cara mengatasi risiko AI, posisi perusahaan tersebut bisa semakin kuat. Pada akhirnya, publik mungkin merasa harus menyerahkan tanggung jawab pengawasan kepada pihak yang justru memiliki kepentingan bisnis terhadap teknologi itu.

Shannon Vallor, profesor etika data dan kecerdasan buatan di University of Edinburgh, menilai bahwa penggambaran AI sebagai teknologi yang hampir supernatural dalam bahayanya dapat membuat masyarakat merasa tak berdaya. Dalam situasi seperti itu, perusahaan pengembang berpotensi dipandang sebagai satu-satunya pihak yang bisa memberikan perlindungan. Padahal, pengawasan teknologi seharusnya tidak hanya bergantung pada keputusan perusahaan yang membuatnya. Pemerintah, peneliti independen, masyarakat sipil, dan lembaga pengawas juga perlu memiliki peran yang berarti.

Kondisi ini menjadi semakin menarik ketika kamu melihat bahwa perusahaan AI juga memiliki kepentingan untuk memperluas bisnisnya. OpenAI dan Anthropic, misalnya, sama-sama menempatkan keselamatan AI sebagai bagian penting dari identitas mereka, tetapi keduanya juga berupaya mengembangkan bisnis di tengah persaingan industri. Vallor mengingatkan bahwa perilaku perusahaan perlu dipahami dengan melihat insentif yang memengaruhi keputusan mereka. Artinya, klaim tentang keselamatan sebaiknya dinilai bersama tindakan nyata perusahaan, bukan diterima begitu saja hanya karena disampaikan dengan bahasa yang meyakinkan.

Peringatan mengenai kemampuan Claude Mythos juga memunculkan pertanyaan tentang seberapa kuat bukti yang mendukung klaim perusahaan. Anthropic menyatakan bahwa model tersebut telah menemukan ribuan kerentanan keamanan dengan tingkat keparahan tinggi dan mengumumkan kerja sama dengan lebih dari 40 perusahaan serta kelompok untuk membantu memperbaiki celah tersebut. Langkah ini menunjukkan bahwa kemampuan AI dalam menemukan kelemahan sistem komputer memang perlu ditanggapi dengan serius. Namun, besarnya klaim tidak otomatis membuktikan bahwa teknologi tersebut unggul dalam semua situasi.

Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute, mempertanyakan kurangnya informasi mengenai tingkat false positive dalam klaim Anthropic. Istilah ini merujuk pada kondisi ketika alat keamanan menandai sesuatu sebagai masalah, padahal sebenarnya gak ada kerentanan yang nyata. Menurut Khlaaf, ukuran tersebut penting untuk menilai seberapa berguna sebuah alat analisis keamanan. Ia juga menyoroti bahwa Anthropic tidak menjelaskan perbandingan Mythos dengan perangkat analisis kode yang telah digunakan para insinyur keamanan selama puluhan tahun.

Kritik tersebut bukan berarti ancaman AI dalam keamanan siber harus diabaikan, ya. AI memang memiliki kemampuan untuk memeriksa kode dalam jumlah besar dan membantu menemukan kelemahan yang mungkin terlewat oleh manusia. Akan tetapi, klaim tentang keunggulan teknologi tetap perlu diuji melalui evaluasi independen, metode pengukuran yang transparan, dan perbandingan yang adil. Dengan begitu, kamu bisa membedakan antara kemampuan yang telah dibuktikan dan gambaran tentang potensi teknologi yang masih membutuhkan pengujian lebih lanjut.

Industri AI kerap menyampaikan dua gambaran yang terlihat bertolak belakang. Di satu sisi, sejumlah pemimpinnya memperingatkan bahwa AI dapat mengancam kelangsungan hidup manusia. Di sisi lain, mereka menjanjikan masa depan ketika teknologi ini mampu membantu menyelesaikan persoalan besar, mulai dari perubahan iklim hingga penemuan ilmiah. Gambaran tentang kehancuran dan utopia tersebut sama-sama menarik perhatian karena menawarkan cerita besar mengenai masa depan manusia.

Menurut Shannon Vallor, cara pandang yang terlalu ekstrem seperti itu bisa membuat masyarakat merasa hanya memiliki dua pilihan: menunggu AI menjadi ancaman besar atau berharap teknologi tersebut menyelamatkan peradaban. Padahal, AI merupakan produk yang dikembangkan oleh perusahaan dan digunakan dalam berbagai konteks kehidupan. Teknologi ini bisa memberikan manfaat, tapi juga membawa risiko yang harus dikelola. Karena itu, keputusan mengenai penggunaannya gak seharusnya diserahkan sepenuhnya kepada perusahaan yang membuatnya.

Kamu juga perlu mengingat bahwa berbagai prediksi besar mengenai teknologi gak selalu terwujud sesuai perkiraan. Metaverse, misalnya, pernah dipromosikan sebagai masa depan interaksi digital, sementara mata uang kripto sempat digambarkan memiliki potensi menggantikan sistem keuangan yang ada. Sebagian teknologi tersebut tetap berkembang, tapi hasil akhirnya gak selalu sesuai dengan gambaran awal yang sangat optimistis. Pengalaman ini mengingatkan kita bahwa klaim mengenai masa depan AI pun perlu dinilai secara kritis, tanpa langsung memercayai skenario terburuk maupun janji yang terlalu muluk.

Pertanyaan mengenai mengapa perusahaan AI seolah bikin kita takut pada ciptaannya gak memiliki satu jawaban sederhana. Sebagian kekhawatiran memang berangkat dari risiko teknologi yang nyata, sementara kepentingan bisnis, persaingan pasar, dan perebutan pengaruh juga perlu diperhitungkan.

Sebagai pengguna, kamu gak perlu langsung takut terhadap setiap perkembangan AI, tapi juga jangan mengabaikan dampak buruknya. Sikap paling masuk akal adalah meminta bukti, mendukung pengawasan independen, dan memastikan bahwa keputusan tentang AI tetap melibatkan kepentingan masyarakat luas.