Meta Dikecam imbas Video Kekerasan Anti-LGBT Merebak di Nigeria

Menurut laporan Dewan Pengawas Meta, video yang memuat kekerasan dan diskriminasi tersebut telah dilaporkan beberapa kali dan ditinjau oleh tiga moderator manusia. Tetapi, tetap tidak diturunkan dari Facebook meskipun melanggar empat aturan yang berbeda.

"Kerusakan yang disebabkan oleh video ini bersifat langsung dan tidak dapat diubah," demikian bunyi laporan tersebut, dikutip dari Irish Examiner.

Meski sudah dihapus, laporan tersebut menunjukkan bahwa masih ada salinan video yang tersisa di Facebook. Keberadaan video meningkatkan kemungkinan seseorang mengenali para korban dan mendorong pengguna untuk melukai komunitas LGBTQIA+ lainnya di Nigeria. Meta belum memberikan komentar resmi terkait insiden ini.

Panel mengkritik Meta atas dua kesalahan dalam penanganan kasus ini. Pertama, sistem otomatis Meta salah mengidentifikasi bahasa dalam video sebagai bahasa Inggris, padahal bahasa yang digunakan adalah Igbo, yang tidak didukung oleh Meta untuk moderasi konten secara masal.

Kedua, tim peninjau manusia Meta juga salah mengidentifikasi bahasa tersebut sebagai bahasa Swahili.

Permasalahan Meta memunculkan kekhawatiran tentang bagaimana konten dalam bahasa yang tidak didukung diperlakukan.

Menurut Dewan Pengawas, pemilihan bahasa yang didukung untuk tinjauan secara masal dan ketepatan terjemahan menjadi masalah penting. Panel tersebut menekankan bahwa perlu ada sistem yang lebih baik untuk mendeteksi bahasa dalam konten yang tidak didukung, serta memberikan terjemahan yang akurat saat konten dikirim untuk ditinjau.

"Kami melihat ini sebagai indikasi lemahnya penegakan aturan komunitas di berbagai bahasa yang belum didukung sepenuhnya oleh Meta," ujar salah satu anggota Dewan Pengawas pada Selasa (15/10/2024). 

“Langkah ini harus segera ditingkatkan agar tidak ada lagi kasus seperti ini di masa mendatang,” lanjutnya.

Selain itu, laporan tersebut juga menyoroti pentingnya evaluasi akurasi penegakan larangan terkait dengan penyebaran identitas atau lokasi individu yang diduga sebagai anggota kelompok berisiko, termasuk komunitas LGBTQIA+. Hal ini bertujuan mencegah penyalahgunaan data dan perlakuan diskriminatif.

Dewan kemudian merekomendasikan agar perusahaan memperbarui Standar Komunitas terkait dengan Koordinasi Bahaya dan Promosi Kejahatan. Pembaruan ini termasuk memberikan contoh jelas tentang kelompok yang berisiko diungkapkan dan melakukan penilaian akurasi penegakan aturan tersebut.

Dewan juga meminta Meta untuk memastikan bahwa sistem deteksi bahasa mampu mengenali konten dalam berbagai bahasa. 

"Kegagalan moderasi menunjukkan bahwa Meta perlu meningkatkan mekanisme pengawasan dan penanganan konten, terutama yang berhubungan dengan kekerasan dan diskriminasi," tambah anggota dewan tersebut, dikutip ABC News.

Meta diharapkan dapat lebih serius menangani masalah ini, mengingat dampak buruk yang ditimbulkan terhadap komunitas yang sudah rentan.