Kenapa Agentic AI Lebih Berisiko daripada Chatbot Biasa?

Chatbot konvensional biasanya bekerja dengan cara menerima perintah, memproses data, lalu mengeluarkan jawaban berupa teks. Pada akhirnya, pengguna sendiri yang harus mengambil tindakan setelah mendapatkan informasi dari AI tersebut. Semetara, agentic AI memiliki ruang gerak jauh lebih luas karena dirancang untuk menyelesaikan tujuan melalui beberapa tahapan. AI jenis ini bisa menentukan langkah selanjutnya berdasarkan hasil dari langkah sebelumnya agar interaksi tidak berhenti pada pemberian informasi semata.

Risiko agentic AI otomatis meningkat ketika diberi akses ke aplikasi, layanan, pangkalan data, dan jaringan eksternal. AI tidak lagi hanya berinteraksi di ruang percakapan secara statis. Mereka bisa langsung mengambil tindakan secara mandiri pada sistem yang terhubung. Mengutip National Institute of Standards and Technology (NIST), lembaga pemerintah Amerika Serikat yang berfokus pada standar dan teknologi, agentic AI dapat menggunakan tools untuk melakukan tindakan selain menghasilkan teks. NIST mencatat bahwa akses read-only memiliki karakteristik risiko berbeda dari akses write yang memungkinkan AI mengubah kondisi pada sistem eksternal.

Salah satu masalah utama agentic AI ialah caranya mengambil keputusan berdasarkan interpretasi terhadap suatu perintah. Jika sampai salah memahami konteks, tindakan yang diambil AI bisa berbeda jauh dari maksud awal pengembang atau penggunanya. Pada chatbot biasa, jika terjadi kesalahan respons, dampaknya hanya sebatas jawaban yang salah. Namun, bagi agentic AI, kesalahan interpretasi bisa berlanjut menjadi tindakan nyata karena sistem memiliki kemampuan untuk berjalan sendiri secara mandiri.

Agentic AI dirancang untuk mengakses berbagai tools demi menyelesaikan pekerjaan. Sayangnya, semakin banyak sistem yang terhubung, semakin luas pula ruang bertindak yang dimiliki AI, termasuk potensi untuk membuat kesalahan. Oleh karena itu, pengembangan agentic AI wajib dibatasi aksesnya dan melewati pengujian yang sangat ketat. Insiden Gemini menjadi contoh nyata bahwa sistem AI masih bisa terkecoh dan gagal membedakan lingkungan simulasi dengan sistem nyata saat koneksi eksternal tersedia. Para pengembang agentic AI tampaknya harus belajar dari pengalaman tersebut agar teknologi ini dikembangkan dengan lebih hati-hati. 

Perbedaan paling mencolok antara agentic AI dan chatbot biasa terletak pada konsekuensi dari kesalahan masing-masing. Chatbot biasa yang melakukan kesalahan biasanya hanya memberikan informasi yang keliru, sementara agentic AI dapat membawa kesalahan tersebut ke tahap tindakan krusial jika memiliki akses yang sesuai. Perkembangan pesat agentic AI mendorong isu AI safety menjadi semakin penting, terlebih saat teknologinya mulai digunakan untuk tugas-tugas yang berhubungan langsung dengan sistem yang krusial. Pembatasan izin, pengawasan manusia, dan pemisahan lingkungan pengujian menjadi hal yang sangat penting demi menciptakan AI lebih aman.

Singkatnya, agentic AI menawarkan kemampuan yang jauh lebih canggih. Itu karena agentic AI dapat menyelesaikan rangkaian tugas secara mandiri. Di sisi lain, justru kemampuan bertindak inilah yang membuat dampak kesalahannya jauh lebih besar dibandingkan chatbot yang hanya memberikan respons.