Saran Kesehatan AI Overview Google Dinilai Berbahaya, Tuai Kritik!

Masalah utama yang disorot The Guardian adalah cara AI Overview menampilkan hasil tes kesehatan, khususnya tes fungsi hati (Liver Function Test/LFT). Saat pengguna mencari kata kunci seperti “kisaran normal tes darah hati” atau “tes fungsi hati”. Dalam kasus ini, AI Overview Google menampilkan angka-angka hasil tes tanpa disertai konteks medis yang memadai. Menurut para ahli, nilai normal tes fungsi hati sangat bergantung pada banyak faktor, mulai dari usia, jenis kelamin, kondisi kesehatan, hingga latar belakang pasien. Tanpa penjelasan tersebut, pasien dengan penyakit hati serius berisiko salah mengira hasil tesnya aman dan tidak membutuhkan penanganan lanjutan.

Para ahli mengingatkan bahwa ringkasan AI semacam ini bisa membuat pasien menunda atau bahkan mengabaikan pemeriksaan lanjutan. Dalam dunia medis, kesalahan semacam ini bukan perkara sepele. AI Overview juga dinilai gagal memberi peringatan bahwa seseorang tetap bisa memiliki hasil tes normal meski mengidap penyakit hati serius, sehingga memunculkan rasa aman palsu yang berisiko.

Menanggapi temuan tersebut, Google diketahui telah menghapus AI Overview untuk beberapa istilah pencarian, termasuk “berapa kisaran normal tes darah hati” dan “berapa kisaran normal tes fungsi hati”. Juru bicara Google menyatakan perusahaan terus melakukan perbaikan ketika AI Overview dinilai kehilangan konteks penting. Meski begitu, Google menolak memberikan komentar lebih lanjut terkait penghapusan tiap hasil pencarian.

Meski beberapa ringkasan telah dihapus, masalah AI Overview ternyata belum sepenuhnya selesai. The Guardian menemukan bahwa variasi pencarian, seperti “LFT reference range” atau “LFT test reference range”, masih memicu kemunculan AI Overview. Vanessa Hebditch dari British Liver Trust menyebut temuan ini sebagai kekhawatiran besar karena pemahaman tes fungsi hati tidak bisa disederhanakan menjadi sekadar daftar angka tebal di layar pencarian.

Masalah ini pun tidak terbatas pada tes fungsi hati. The Guardian menemukan AI Overview pada topik lain, seperti kanker dan kesehatan mental, yang ringkasannya oleh para ahli disebut sepenuhnya salah dan sangat berbahaya. Google berdalih bahwa ringkasan tersebut terhubung ke sumber tepercaya dan telah ditinjau tim klinisi internal, tetapi sejumlah pakar teknologi dan kesehatan menilai langkah ini belum cukup untuk menjamin keamanan informasi.

Tes fungsi hati sejatinya terdiri dari serangkaian pemeriksaan berbeda yang tidak bisa disimpulkan hanya dengan membandingkan angka. Namun, AI Overview justru menyajikan daftar tes dalam format ringkas dan tebal, sehingga mudah disalahartikan sebagai patokan mutlak. Lebih berbahaya lagi, ringkasan tersebut tidak memberi peringatan bahwa hasil tes bisa tampak normal meski seseorang mengidap penyakit serius. Menurut para ahli, inilah titik paling rawan dari penggunaan ringkasan AI di ranah kesehatan.

Kekhawatiran ini juga disampaikan oleh berbagai ahli. Sue Farrington dari Patient Information Forum menyambut baik penghapusan sebagian AI Overview, tetapi menilai langkah tersebut baru sebatas awal. Menurutnya, kepercayaan publik terhadap informasi kesehatan yang ditampilkan Google masih rapuh dan membutuhkan perbaikan yang jauh lebih serius.

Pandangan serupa datang dari pengamat teknologi. Victor Tangermann dari situs Futurism menilai Google masih harus melakukan banyak pembenahan agar alat AI-nya tidak menyebarkan informasi medis yang keliru dan berpotensi membahayakan pengguna. Di tengah sulitnya akses terhadap informasi kesehatan yang benar dan tepercaya, tanggung jawab platform besar seperti Google pun dinilai semakin krusial.

Kritik terhadap AI Overview Google menunjukkan bahwa teknologi secanggih apa pun tetap membutuhkan pengawasan manusia. Ketika informasi kesehatan disajikan secara keliru atau terlalu disederhanakan, dampaknya tidak lagi sekadar memicu salah paham, tetapi bisa menyangkut keselamatan pengguna.