Terancam Diblokir Kominfo, Bigo Live Tersandung Kasus Pornografi

Ditemui usai menghadiri acara "Peluncuran Film Dokumenter APJII", Menteri Komunikasi dan Informatika (Menkominfo) Budi Arie Setiadi mengatakan bahwa aplikasi yang berbasis di Singapura itu masih terus dianalisa oleh tim.

"Kita analisa terus oleh tim. Kalau ada indikasi melanggar perundang-undangan yang berlaku di Indonesia, pasti kita segera lakukan langkah-langkah tegas," ujarnya di Jakata, pada Jumat (30/08/2024).

Kominfo sendiri telah mengirimkan surat teguran kedua kepada PT Bigo Technology Indonesia pada Rabu, 21 Agustus 2024, dan yang pertama di bulan Juli. Mereka menegaskan bahwa perusahaan wajib untuk menghapus seluruh konten negatif yang beredar di aplikasi Bigo Live.

"Bigo Live juga wajib meningkatkan sistem moderasi untuk mencegah munculnya kembali konten negatif di masa mendatang,” kata Menkominfo.

Bigo Live kemudian memperkenalkan pembaruan (refresh) menyeluruh pada aplikasi dengan langkah penyaringan konten yang lebih ketat untuk meningkatkan pengalaman pengguna di Indonesia.

Pembaruan ini merupakan bagian dari komitmen berkelanjutan perusahaan untuk menyediakan platform dan komunitas online yang aman dan bermartabat bagi masyarakat.

Update mencakup penghapusan lebih dari 40.000 konten tidak senonoh dan 50.000 akun yang tidak mengikuti panduan komunitas aplikasi ini sejak awal 2024.

Hal ini juga melibatkan pengetatan moderasi untuk mengakhiri dan memerangi iklan click-bait, berita palsu, konten iklan yang tidak akurat atau tidak tepat, serta konten-konten yang dianggap sensitif.

Dalam rilis resmi, Bigo Live mengaku telah menerapkan tindakan pencegahan yang lebih ketat terhadap penyalahgunaan dan pengelolaan platform yang tidak tepat karena mereka terus berupaya menciptakan lingkungan digital yang bersih dan sehat untuk meningkatkan pengalaman pengguna bagi semua orang.

"Pembaruan aplikasi ini merupakan bagian dari upaya proaktif kami yang berkelanjutan untuk memastikan bahwa semua konten di Bigo Live aman dan bermartabat," kata juru bicara perusahaan.

Lebih dalam dijelaskan bahwa Bigo Live telah meningkatkan upaya untuk menghilangkan segala bentuk konten yang tidak diinginkan, termasuk konten-konten yang dalam pandangan budaya setempat dianggap sensitif, yang tidak diizinkan dan tidak pernah diizinkan di platform.

Perusahaan mengklaim bahwa mereka tidak pernah mentoleransi segala konten sensitif atau menyinggung pengguna dan masyarakat yang lebih luas di setiap negara tempat beroperasi.

"Kami sangat memperhatikan masalah-masalah ini untuk memastikan pengalaman pengguna yang lancar. Dengan menggabungkan sistem deteksi kami dan tim moderasi, kami dapat menangani masalah-masalah ini secara efektif, cepat, dan tepat, sehingga kami dapat menghapus konten dan perilaku berbahaya untuk melindungi masyarakat," jelasnya.

Bigo Live mengaku terus bekerja sama secara penuh dengan pemerintah Indonesia untuk menyediakan platform bagi masyarakat dari berbagai latar belakang untuk bersatu, berbagi kreativitas dan bakat, serta menyebarkan kegembiraan dan hal positif.

Setiap harinya, Bigo Live menghapus lebih dari satu juta konten dan perilaku yang berpotensi berbahaya dan melanggar panduan komunitas. Secara global, perusahaan menghapus jutaan paket data (gambar, video, teks) dengan akurasi 99,5 persen dan menghapusnya dalam waktu 60 detik, mencegah puluhan juta konten berbahaya ditonton.

Platform memanfaatkan kombinasi teknologi dan sumber daya manusia untuk menghapus lebih dari 99 persen konten ilegal dan menyinggung sebelum terdeteksi oleh pengguna. Mereka juga menyediakan moderator tambahan berbahasa Indonesia untuk memantau platform selama 24 jam.

Bigo Live bekerjasama dengan tim yang kuat, meliputi para ilmuwan dan insinyur AI untuk mengembangkan dan memelihara Sistem Manajemen Konten (CMS) berbasis AI khusus (proprietary AI).

Hal ini menjadi tulang punggung sistem moderasi konten. Fitur-fitur AI mencakup pengenalan gambar, pengenalan wajah, kecerdasan video, dan pemrosesan suara.

CMS memiliki data yang berisi lebih dari 200.000 kata kunci negatif yang membantu mendeteksi dan menghapus konten dan perilaku berbahaya, seperti ujaran kebencian, serta memblokir pengguna.

Sistem ini juga dibangun dengan algoritma machine learning yang terus belajar saat memproses jutaan data untuk mendeteksi dan memberikan hukuman kepada pelanggar dengan akurat.

Pengguna juga diberdayakan dengan alat pelaporan online untuk melaporkan konten dan perilaku yang berbahaya, mencurigakan, atau tidak sesuai.

Berdasarkan hasil patroli siber yang dilakukan Kominfo pada periode 26 Mei hingga 8 Agustus 2024, terdapat 121 akun yang terkait konten judi online di aplikasi Bigo Live.

Adapun hasil patroli siber mulai 15 hingga 18 Agustus 2024, terdapat 32 akun yang terkait konten pornografi di aplikasi tersebut.