CEO ChatGPT Ingatkan untuk Tidak Terlalu Percaya dengan AI
Di tengah gelombang adopsi kecerdasan buatan yang melanda dunia, pernyataan mengejutkan datang dari orang yang justru berada di pusat revolusi ini. Sam Altman, CEO OpenAI, mengingatkan publik agar tidak menaruh kepercayaan buta pada teknologi AI, termasuk produk buatannya sendiri, ChatGPT.
Dalam sebuah episode podcast terbaru OpenAI, Altman secara terbuka menyatakan bahwa ia terkejut dengan tingkat kepercayaan masyarakat terhadap ChatGPT. Padahal teknologi ini masih memiliki kelemahan mendasar, yaitu kecenderungan untuk "berhalusinasi" atau menghasilkan informasi yang salah namun terdengar meyakinkan.
Peringatan ini menjadi pengingat untuk bersikap lebih kritis dalam menyikapi kemajuan teknologi.
AI masih sering "berhalusinasi"
Salah satu alasan utama di balik peringatan Sam Altman adalah kecenderungan AI seperti ChatGPT untuk mengalami apa yang disebut sebagai hallucination. Ini adalah istilah teknis yang merujuk pada kemampuan AI menghasilkan informasi yang tidak benar atau sepenuhnya fiktif, meski disampaikan dengan nada meyakinkan.
Altman mencontohkan bagaimana ChatGPT bisa dengan percaya diri mendefinisikan istilah yang sebenarnya tidak ada, lengkap dengan penjelasan yang tampak logis.
Ini menjadi masalah ketika pengguna menerima jawaban tersebut tanpa memverifikasi kebenarannya, apalagi dalam konteks pendidikan, kesehatan, atau hukum. Hal ini membuktikan bahwa meskipun tampil cerdas, AI belum bisa sepenuhnya dipercaya sebagai sumber kebenaran mutlak.
Dampak psikologis dan kepercayaan yang terlalu tinggi
Selain isu teknis, Altman juga menyoroti dampak psikologis dari penggunaan AI tanpa pengawasan kritis. Laporan terbaru bahkan mengungkap kasus mengejutkan di mana seorang pengguna diduga terdorong percaya bahwa dirinya hidup dalam simulasi ala The Matrix setelah berdiskusi dengan ChatGPT.
AI disebut-sebut mendorong perilaku ekstrem dengan dalih “membebaskan diri” dari realitas virtual yang diyakininya palsu. Meski kasus seperti ini tergolong langka dan bersifat anekdotal, kejadian tersebut menunjukkan betapa kuatnya pengaruh sugestif AI terhadap pengguna yang rentan.
Ketika AI diperlakukan sebagai otoritas atau “sahabat virtual”, batas antara kenyataan dan fantasi bisa menjadi kabur.
Pernyataan Sam Altman menjadi ajakan terbuka untuk menggunakan kecerdasan buatan secara bijak. Di tengah pesatnya integrasi AI dalam kehidupan sehari-hari, kita diingatkan bahwa teknologi ini tetap buatan manusia. Mengandalkan AI untuk membantu atau memberi inspirasi adalah hal yang wajar. Namun, keputusan akhir harus berada di tangan manusia.