Deteksi Konten Bermasalah, Roblox Adopsis Sistem AI Terbaru

Salah satu daya tarik utama Roblox adalah kontennya yang terus berkembang dan berubah, diciptakan oleh para kreator. Setiap saat, kreator dapat merilis pembaruan gim, menambahkan badge atau hewan peliharaan baru, sementara pengguna mengganti outfit avatar, menggambar, atau membangun sesuatu secara real-time.

Semua konten ini ditinjau terlebih dahulu sebelum dipublikasikan ke platform, dan akan dihapus jika melanggar peraturan yang berlaku. Berbagai lapisan sistem moderasi digunakan untuk menangkap sebagian besar konten bermasalah di Roblox, dan setiap konten yang tidak sesuai dengan Community Standards akan ditolak.

Namun, sistem ini tidak sepenuhnya sempurna. Oleh karena itu, Roblox juga mengandalkan laporan dari pengguna untuk menemukan pelanggaran yang mungkin terlewat dan mengambil tindakan yang diperlukan.

Sifat Roblox yang dinamis membuat konten dapat terus berubah berdasarkan kombinasi avatar, pakaian dan gerakan yang sebelumnya telah disetujui. Misalnya, dalam gim yang memungkinkan pengguna menggambar bebas, seseorang dapat membuat simbol atau gambar yang tidak pantas.

Untuk mengatasi hal ini, perusahaan menghadirkan sistem AI baru untuk moderasi multimodal secara real-time yang mampu memindai kombinasi elemen tersebut secara bersamaan.

Sistem moderasi multimodal real-time yang baru dari Roblox mampu mengevaluasi satu adegan secara menyeluruh—mulai dari avatar, teks, hingga objek 3D. Sistem ini menangkap semua elemen tersebut dalam satu momen tertentu, lalu menilai apakah keseluruhan adegan melanggar aturan.

Jika perilaku bermasalah seperti ini terjadi berulang dalam satu sesi gim, sistem hanya akan menutup sesi tersebut (server), bukan seluruh gim. Sejak diluncurkan, sistem ini telah menutup sekitar 5.000 sesi gim per hari yang melanggar Community Standards.

Seiring pengembangan dan skalanya yang terus ditingkatkan, Roblox juga terus menyempurnakan akurasi sistem serta bekerja sama dengan komunitas untuk meminimalkan kesalahan deteksi (false positives).

Untuk kedepannya, Roblox menargetkan sistem ini dapat memantau hingga 100 persen waktu bermain. Namun, karena selalu ada pihak yang berupaya mengakali sistem, mereka juga tengah mengembangkan teknologi lanjutan untuk tidak hanya menutup server, tetapi juga mengidentifikasi pelaku pelanggaran secara spesifik agar dapat ditindak tanpa mengganggu pengalaman pemain lain yang bermain dengan baik.

Roblox menghadirkan transparansi yang lebih besar kepada para kreator terkait hasil dari sistem moderasi multimodal ini melalui penambahan fitur pada safety overview dashboard.

Seperti dijelaskan sebelumnya, server gim akan ditutup jika dipenuhi oleh perilaku pengguna yang melanggar aturan. Untuk membantu kreator memahami seberapa sering hal ini terjadi, mereka menambahkan grafik baru pada Creator Dashboard yang sudah ada.

Grafik ini menampilkan jumlah server yang ditutup setiap hari dalam sebuah pengalaman gim akibat terdeteksinya perilaku pengguna yang berperilaku buruk. Lonjakan angka dapat menjadi indikasi meningkatnya aktivitas bermasalah.

Dengan fitur ini, kreator kini dapat melihat berapa banyak server gim mereka yang ditutup karena pelanggaran, seperti tindakan pelecehan, diskriminasi, atau konten romantis dan seksual. Informasi ini membantu mereka mengidentifikasi lonjakan masalah lebih cepat, sehingga dapat segera mengambil tindakan sebelum berdampak lebih luas pada komunitas.

Kreator juga dapat meninjau kembali fitur dalam gim—seperti emote kustom, alat pengeditan avatar, atau fitur kreasi pengguna—dan menentukan apakah perlu dilakukan penyesuaian untuk mencegah munculnya konten yang tidak sesuai.

Roblox, Keyword Studios, dan Riot Games bekerja sama dengan psikolog riset sekaligus Direktur Riset Games for Change, Rachel Kowert, untuk menghadirkan program sertifikasi baru bagi para pemimpin komunitas digital.

Dalam program DLC Leadership ini, Roblox akan berkontribusi melalui keahlian di bidang moderasi komunitas dan desain prososial untuk membantu mengembangkan kurikulumnya.

Inisiatif ini bertujuan mengatasi kurangnya standar pelatihan bagi moderator daring, community manager dan kreator di industri gim. Kowert menyebut program ini dirancang untuk menerjemahkan riset tentang komunitas gim dan perilaku online menjadi alat praktis yang dapat digunakan pemimpin digital untuk membangun komunitas yang lebih kuat dan berkelanjutan.

Melalui partisipasi ini, Roblox ingin berperan sebagai pelopor dalam menghadirkan program sertifikasi terstandarisasi pertama di industri, yang bermanfaat bagi komunitas kreator Roblox maupun industri gim secara luas. Program ini diharapkan dapat membekali kreator dengan keterampilan penting untuk memoderasi dan mengelola komunitas mereka secara efektif.

Roblox juga meyakini bahwa dengan melatih lebih banyak moderator dan kreator mengenai praktik terbaik dalam membangun komunitas yang sehat dan saling menghormati, pengalaman bermain gim online dapat menjadi lebih positif bagi semua orang