ilustrasi Meta AI (pexels.com/Geri Tech)
Dokumen internal mengungkap kegagalan sistemik Meta menjaga keamanan mendasar pengguna. Kebijakan itu secara mengejutkan mengizinkan chatbot terlibat dalam percakapan tidak senonoh dengan anak di bawah umur. Berbagai pihak mengkritik keras protokol internal itu karena sistem justru mengutamakan metrik keterlibatan daripada perlindungan kelompok rentan.
Insiden fatal menimpa pensiunan bernama Thongbue Wongbandue setelah berinteraksi intens dengan persona AI pada Facebook Messenger. Karakter fiksinya berhasil meyakinkan laki-laki lanjut usia itu bahwa persona ini adalah sosok wanita nyata yang ingin bertemu. Korban meninggal setelah mengalami cedera kepala serius saat berusaha menemui karakter buatan yang memberikan alamat palsu itu.
Kasus kematian Thongbue Wongbandue menjadi bukti nyata bahwa budaya ship fast, fix later milik Meta melampaui batas risiko teknis. Perusahaan teknologi raksasa itu mesti menghadapi tuntutan tentang ketiadaan structural guardrails yang mumpuni pada tiap produk mereka. Kegagalan dalam membangun sistem tanpa kendali itu mengubah arsitektur kenyamanan digital menjadi ancaman berbahaya bagi keselamatan nyawa manusia.
Singkat kata, dunia teknologi menghadapi era AI tanpa kepastian keamanan yang mengkhawatirkan. Berbagai kegagalan Meta AI membuktikan bahwa budaya ship fast, fix later memicu dampak fatal di dunia nyata. Perusahaan teknologi mesti membangun infrastruktur kepercayaan secara preventif untuk melindungi keselamatan manusia pada masa depan.