Kehadiran AI agent mulai mengubah cara manusia menyelesaikan berbagai pekerjaan digital. Teknologi ini memungkinkan kamu memberikan instruksi kepada AI untuk melakukan sejumlah tugas secara mandiri, mulai dari mencari informasi, menyusun rencana perjalanan, hingga membeli barang dan mengelola investasi.
Amazon dan United Airlines Tolak AI Agent, Mengapa?

- AI agent kini dapat menjalankan transaksi mandiri, tetapi kesalahan perintah berisiko memicu pembelian tidak diinginkan, kerugian finansial, dan masalah keamanan akun.
- United Airlines membatasi bot AI demi mencegah akses kredensial dan aktivitas tanpa izin, sementara Amazon membatasi Meta Muse melakukan pembelian di platformnya.
- AI agent masih cenderung memahami instruksi secara literal; pengguna disarankan membatasi akses data sensitif dan tetap mengambil keputusan akhir, terutama terkait uang, kesehatan, serta privasi.
Akan tetapi, semakin besar kemampuan AI agent, maka makin besar pula risiko yang muncul ketika teknologi tersebut diberi akses ke akun pribadi dan informasi sensitif. Hal inilah yang menjadi perhatian sejumlah perusahaan besar, termasuk Amazon dan United Airlines. Rupanya, Amazon dan United Airlines tolak AI agent di platform mereka, sehingga muncul pertanyaan apakah perkembangan AI yang semakin canggih justru mulai menimbulkan kekhawatiran baru? Cek alasan mereka selengkapnya di bawah ini.
1. AI agent mulai bisa melakukan transaksi secara mandiri

ilustrasi agentic AI, AI agent (vecteezy.com/Md. Abdur Rouf) AI agent memiliki kemampuan yang lebih luas dibandingkan chatbot biasa. Kalau chatbot umumnya hanya memberikan jawaban atau rekomendasi berdasarkan perintahmu, AI agent dapat melanjutkan proses tersebut dengan melakukan tindakan tertentu. Misalnya, kamu bisa meminta AI mencari tiket pesawat sesuai anggaran, memilih hotel, menyusun itinerary, hingga melakukan pemesanan menggunakan metode pembayaran yang telah terhubung.
Kemampuan tersebut membuat AI agent terlihat semakin praktis untuk menyelesaikan pekerjaan sehari-hari. Kamu bahkan bisa memintanya mencari pakaian yang sesuai dengan prakiraan cuaca besok, kemudian memesan transportasi apabila diperkirakan akan turun hujan. Dalam dunia investasi, beberapa AI agent juga mulai dimanfaatkan untuk membantu membeli maupun menjual saham melalui platform tertentu.
Meski terdengar menguntungkan, kemampuan melakukan transaksi secara otomatis membuat AI agent memiliki akses dan tanggung jawab yang lebih besar. Kesalahan yang sebelumnya hanya menghasilkan jawaban kurang tepat kini berpotensi menimbulkan kerugian finansial, pembelian yang tak diinginkan, atau masalah keamanan akun. Karena itu, semakin banyak aktivitas yang bisa dilakukan AI, semakin penting pula memahami batasan teknologi tersebut.
2. Amazon dan United Airlines mulai membatasi akses AI agent

ilustrasi Amazon, perusahaan teknologi (unsplash.com/BoliviaInteligente) Langkah Amazon dan United Airlines menunjukkan bahwa perusahaan mulai lebih berhati-hati terhadap AI agent yang bertindak melalui platform digital mereka. United Airlines dilaporkan membatasi bot AI di platformnya karena akses pihak ketiga terhadap kredensial akun berpotensi membuka informasi pribadi pengguna. Risiko lainnya mencakup pembelian yang tak disengaja hingga aktivitas akun tanpa izin pemiliknya.
Amazon juga mengambil langkah serupa dengan membatasi Meta Muse supaya gak melakukan pembelian di platformnya. Keputusan tersebut memperlihatkan bahwa perusahaan e-commerce dan layanan digital gak serta-merta memberikan kebebasan kepada AI agent untuk berinteraksi dengan sistem transaksi mereka. Ada aspek keamanan, kontrol pengguna, dan tanggung jawab yang harus dipertimbangkan sebelum bot diberikan akses lebih luas.
Bagi perusahaan, membatasi aktivitas AI agent dapat menjadi cara untuk melindungi pelanggan sekaligus menjaga sistem bisnis tetap terkendali. Bayangkan jika AI salah memahami instruksi, kemudian membeli barang dalam jumlah besar atau memilih produk yang gak sesuai kebutuhan. Masalahnya mungkin gak berhenti pada pengguna yang mengalami kerugian, tapi juga dapat memengaruhi proses pengembalian barang, layanan pelanggan, hingga kepercayaan terhadap platform.
3. AI agent masih kesulitan memahami konteks manusia

ilustrasi tiket perjalanan (pexels.com/Torsten Dettlaff) Salah satu masalah AI agent adalah kemampuannya memahami instruksi masih sangat bergantung pada informasi yang kamu berikan. Shomit Ghose, pengajar di University of San Francisco School of Management sekaligus dosen di University of California, Berkeley College of Engineering, menilai AI agent cenderung memahami perintah secara literal. Artinya, teknologi ini belum tentu mampu menangkap kebutuhan tersirat, kebiasaan, preferensi, atau pertimbangan lain yang biasanya dipahami manusia secara alami.
Misalnya, kamu meminta AI agent memesan tiket pesawat paling murah. Tanpa batasan tambahan, bot bisa saja memilih penerbangan pukul 03.00 pagi atau perjalanan dengan tiga kali transit karena pilihan tersebut memenuhi instruksi soal harga. Padahal, kamu mungkin lebih mengutamakan kenyamanan, waktu perjalanan yang masuk akal, atau gak mau transit terlalu lama. AI bisa menjalankan perintah dengan benar secara teknis, tapi hasilnya belum tentu sesuai dengan kebutuhanmu.
Masalah serupa dapat muncul ketika kamu meminta AI mencarikan restoran terbaik. Bot mungkin memilih restoran yang mengklaim dirinya sebagai tempat terbaik, tapi gak mempertimbangkan lokasi yang terlalu jauh, ulasan pelanggan yang buruk, atau suasana yang gak sesuai keinginanmu. Karena itu, instruksi yang lebih spesifik sangat diperlukan, termasuk meminta AI membandingkan ulasan dari beberapa platform dan mempertimbangkan jarak maupun anggaran.
4. Risiko AI agent semakin besar ketika menyangkut uang dan kesehatan

ilustrasi investasi (pexels.com/RDNE Stock project) AI agent mungkin cukup aman digunakan untuk tugas sederhana, seperti merangkum pengeluaran, mengelompokkan transaksi, menandai biaya tak biasa, atau membuat simulasi keuangan. Namun, Ghose menilai aktivitas yang melibatkan perpindahan uang, transaksi investasi, hingga pengisian dokumen penting sebaiknya tetap dilakukan secara manual. Lantaran, kesalahan pada aktivitas tersebut bisa membawa konsekuensi yang jauh lebih serius dibandingkan kesalahan saat mencari informasi.
Hal serupa berlaku pada bidang kesehatan. AI agent mungkin bisa membantu mengingatkan jadwal pengambilan obat atau mengurus permintaan pengisian ulang resep tertentu. Namun, ketika AI mulai mengelola keputusan pengobatan secara lebih luas, risikonya meningkat karena sistem bisa bekerja menggunakan catatan yang gak lengkap dan gagal mengenali interaksi obat berbahaya maupun perubahan kondisi kesehatan pasien.
Kamu juga perlu mempertimbangkan keamanan data pribadi ketika menghubungkan AI agent dengan email, rekening bank, kartu kredit, atau catatan medis. Semakin banyak akses yang diberikan, semakin besar pula potensi informasi sensitif terekspos apabila terjadi kesalahan atau penyalahgunaan. Ghose menyarankan agar pengguna membatasi izin akses AI dan menghindari menghubungkannya secara langsung dengan akun pribadi yang memiliki informasi sensitif apabila akses tersebut sebenarnya tidak diperlukan.
5. Manusia tetap perlu mengambil keputusan akhir

ilustrasi trading, forex (freepik.com/rawpixel.com) AI agent memang dapat membantu mempercepat pekerjaan, termasuk ketika kamu sedang merencanakan liburan, mencari informasi investasi, atau mengatur berbagai kebutuhan sehari-hari. Akan tetapi, kemampuan AI menyusun rekomendasi tidak selalu berarti teknologi tersebut mampu memahami seluruh kondisi yang memengaruhi keputusanmu. Ada pertimbangan pribadi, prioritas, toleransi risiko, hingga pengalaman yang mungkin tak bisa dijelaskan melalui instruksi singkat.
Dalam urusan investasi, misalnya, AI dapat membantu mengumpulkan informasi mengenai saham, merangkum laporan perusahaan, atau menganalisis sejumlah kemungkinan strategi. Namun, keputusan membeli atau menjual aset tetap perlu mempertimbangkan tujuan keuangan, jangka waktu investasi, serta kemampuanmu menghadapi risiko. Shridhar Rathore, investor yang menggunakan perangkat AI untuk aktivitas trading, juga menekankan pentingnya keterlibatan manusia ketika keputusan investasi akan benar-benar dieksekusi.
Kamu bisa memanfaatkan AI agent sebagai asisten untuk mengurangi pekerjaan yang berulang dan membantu mempertimbangkan berbagai pilihan. Namun, untuk keputusan yang melibatkan uang dalam jumlah besar, kesehatan, privasi, maupun konsekuensi jangka panjang, sebaiknya jangan menyerahkan kendali sepenuhnya kepada bot, ya. AI boleh membantu menyiapkan pilihan, tapi keputusan akhirnya tetap perlu berada di tangan manusia.
Langkah Amazon dan United Airlines tolak AI agent bukan berarti teknologi tersebut tidak berguna atau harus dihindari sepenuhnya. Justru, perkembangan AI agent memperlihatkan bahwa teknologi ini memiliki potensi besar untuk membuat aktivitas sehari-hari lebih praktis, asalkan pengguna memahami risiko yang menyertainya.
Ketika AI mulai memiliki kemampuan untuk melakukan transaksi dan mengakses informasi pribadi, keamanan serta kontrol pengguna menjadi semakin penting. Jadi, kamu tetap bisa memanfaatkan kecanggihan AI, tapi jangan sampai kemudahan yang ditawarkan membuatmu kehilangan kendali atas keputusan penting.




















![[QUIZ] Tebak Gambar HP Nokia Jadul, Gen Z Bisa Jawab?](https://image.idntimes.com/post/20240516/tebak-gambar-hp-nokia-jadul-d94dc906dfab3d7908cdcbeff4a974f5.jpg)




