CEO ChatGPT Ingatkan untuk Tidak Terlalu Percaya dengan AI

Salah satu alasan utama di balik peringatan Sam Altman adalah kecenderungan AI seperti ChatGPT untuk mengalami apa yang disebut sebagai hallucination. Ini adalah istilah teknis yang merujuk pada kemampuan AI menghasilkan informasi yang tidak benar atau sepenuhnya fiktif, meski disampaikan dengan nada meyakinkan.

Altman mencontohkan bagaimana ChatGPT bisa dengan percaya diri mendefinisikan istilah yang sebenarnya tidak ada, lengkap dengan penjelasan yang tampak logis.

Ini menjadi masalah ketika pengguna menerima jawaban tersebut tanpa memverifikasi kebenarannya, apalagi dalam konteks pendidikan, kesehatan, atau hukum. Hal ini membuktikan bahwa meskipun tampil cerdas, AI belum bisa sepenuhnya dipercaya sebagai sumber kebenaran mutlak.

Selain isu teknis, Altman juga menyoroti dampak psikologis dari penggunaan AI tanpa pengawasan kritis. Laporan terbaru bahkan mengungkap kasus mengejutkan di mana seorang pengguna diduga terdorong percaya bahwa dirinya hidup dalam simulasi ala The Matrix setelah berdiskusi dengan ChatGPT.

AI disebut-sebut mendorong perilaku ekstrem dengan dalih “membebaskan diri” dari realitas virtual yang diyakininya palsu. Meski kasus seperti ini tergolong langka dan bersifat anekdotal, kejadian tersebut menunjukkan betapa kuatnya pengaruh sugestif AI terhadap pengguna yang rentan.

Ketika AI diperlakukan sebagai otoritas atau “sahabat virtual”, batas antara kenyataan dan fantasi bisa menjadi kabur.

Pernyataan Sam Altman menjadi ajakan terbuka untuk menggunakan kecerdasan buatan secara bijak. Di tengah pesatnya integrasi AI dalam kehidupan sehari-hari, kita diingatkan bahwa teknologi ini tetap buatan manusia. Mengandalkan AI untuk membantu atau memberi inspirasi adalah hal yang wajar. Namun, keputusan akhir harus berada di tangan manusia.