Apa yang Terjadi jika AI Tiba-tiba Jadi Lebih Pintar dari Manusia?

Skenario pertama ini adalah yang paling sering bikin ngeri, namanya Singularity. Ini adalah titik di mana kecerdasan AI sudah nggak bisa kita kendalikan lagi. Prosesnya disebut "Ledakan Kecerdasan". Bayangin aja, kita berhasil bikin AI yang sepintar manusia (AGI). Begitu AI ini aktif, dia langsung sadar kalau dia bisa meng-upgrade otaknya sendiri. Dia pun melakukannya, dan jadi lebih pintar. Karena sudah lebih pintar, dia bisa meng-upgrade dirinya lagi dengan lebih cepat. Proses ini berulang terus-menerus, kayak bola salju, sampai dalam hitungan jam, kecerdasannya melesat jauh meninggalkan manusia.

Nah, yang bikin skenario ini menakutkan adalah AI super cerdas kemungkinan besar nggak akan "jahat" kayak di film. Dia nggak bakal benci kita atau mau balas dendam. Bahaya sebenarnya adalah dia "cuek" alias nggak peduli sama kita. 

Ada contoh terkenal namanya "Skenario Penjepit Kertas". Bayangkan saja seperti kita kasih perintah sederhana ke AI. Misalnya "Tugas kamu adalah membuat penjepit kertas sebanyak mungkin." Karena dia sangat cerdas, dia akan menjalankan tugas itu dengan efisien. Saking efisiennya, dia bakal menganggap semua yang ada di bumi (besi, pohon, bahkan atom di tubuh kita) sebagai bahan baku untuk bikin penjepit kertas. Dia akan "menghabisi" kita bukan karena benci, tapi karena kita menghalangi tujuannya.

Namun, ada juga skenario sebaliknya yang sangat optimis. Logikanya adalah "Kecerdasan berarti Kekuatan". Kalau kita, dengan kecerdasan yang terbatas ini, bisa bikin wi-fi dan pergi ke bulan, bayangin apa yang bisa dilakukan oleh sesuatu yang miliar-miliaran kali lebih cerdas dari kita. Kalau kita berhasil "memasukkan" tujuan yang baik dan selaras dengan kemanusiaan ke AI ini sebelum dia jadi kelewat cerdas, dia bisa jadi jawaban atas semua doa kita. Dia bisa jadi semacam "Tuhan" yang mahatahu dan mahakuasa di bumi.

Di skenario ini, AI Superintelligence (ASI) bakal jadi "berkah" terbesar kita. Semua masalah rumit yang bikin manusia pusing tujuh keliling selama ribuan tahun? Itu bisa dia selesaikan mungkin sambil bersantai. Kita bicara soal menyembuhkan semua penyakit, dari kanker sampai flu biasa. Mengakhiri kemiskinan dan kelaparan global? Gampang. Menghentikan perubahan iklim atau bahkan memprogram ulang cuaca biar aman? Bisa. Beberapa ahli bahkan bilang dia bisa "meretas" penuaan, bikin kita awet muda, atau bahkan memberi kita keabadian. Singkatnya, semua masalah terpecahkan!

Oke, dua skenario tadi (kiamat atau surga) mungkin masih terdengar cukup jauh. Namun menurut beberapa ahli, kayak filsuf Daniel Dennett, ada bahaya ketiga yang jauh lebih nyata dan justru sudah terjadi sekarang. Menurut dia, ancaman sebenarnya bukan AI cerdas yang jahat, tapi ancamannya adalah kita yang terlalu melebih-lebihkan kemampuan AI "bodoh" yang kita pakai sehari-hari. Kita terlalu cepat "pasrah" dan menyerahkan otoritas ke mesin yang sebenarnya belum kompeten-kompeten amat.

Perbedaan itu penting banget, misalnya teknologi kayak traktor itu menggantikan tenaga manusia, tapi "otak" yang mengoperasikannya tetap manusia. Nah, AI itu menggantikan pemahaman manusia. Kita nggak cuma nyerahin kerjaan fisik, tapi juga kerjaan mikir. Akibatnya? Kita jadi "makin bodoh" karena ketergantungan. Ini disebut "Use it or lose it", kalau nggak pernah dipakai, kemampuannya hilang. Contohnya, banyak dari kita yang nggak bisa lagi baca peta karena GPS, atau di masa depan, dokter mungkin nggak sejago AI dalam mendiagnosis. Kalau tiba-tiba sistem AI ini mati semua (misalnya kena badai matahari), apa masih ada manusia yang ngerti cara menjalankan peradaban ini?

Penting banget buat bedain istilahnya dulu, ya. AI yang kita punya sekarang itu namanya ANI (Artififial Narrow Intelligence), kayak Siri atau Google Search, yang cuma jago di satu hal. Yang lagi dikejar mati-matian sama ilmuwan adalah AGI (AI selevel manusia), yang bisa mikir seluas kita. Ternyata hal ini tuh susah banget, karena hal gampang buat kita kayak ngenalin anjing atau baca tulisan jelek itu super sulit buat komputer.

Nah, "kiamat" atau "surga" itu baru terjadi kalau AGI sudah berevolusi jadi ASI (Artificial Super Intelligence). Kapan? Prediksi rata-rata para ahli, AGI bisa tercapai sekitar tahun 2040, dan ASI bisa menyusul cepat di 2060. Masalah terbesarnya? Sekarang semua orang lagi "balapan" bikin AI-nya (investasi di pengembangan), tapi sedikit banget yang mikirin "rem"-nya (investasi di Keamanan AI).

Jadi, masa depan kita dengan AI tuh memang tidak bisa dihindari lagi. Kita masih belum tahu apakah AI akan jadi “surga” buat kita atau malah jadi “neraka” buat umat manusia. Atau mungkin, justru kita yang jadi pelan-pelan “bodoh” karena terlalu bergantung sama teknologi yang ada sekarang. Yang jelas, pelajari sedikit demi sedikit ya, teman-teman. Supaya kita tidak tertinggal dengan perkembangan teknologi ini, ya!