YouTube Bakal Larang Konten AI yang Simulasikan Kematian Anak-Anak

12 Jan 2024, 12:15 WIB

Ilustrasi live streaming yang ada di IDN Live. (Dok. IDN Media)

Jakarta, IDN Times - Platform media sosial berbagi video, yakni YouTube memperbarui kebijakannya terkait kekerasan siber. YouTube akan menindak tegas konten yang melakukan simulasi realistis anak yang sudah meninggal atau yang jadi korban kekerasan serta tindak kriminal.

Simulasi ini dibuat dengan Artificial Intelligent (AI) dan konten semacam itu akan mulai ditindak pada 16 Januari 2024.

“Mulai 16 Januari, kami akan mulai menghapus konten yang secara realistis menyimulasikan mayat anak di bawah umur atau korban peristiwa bencana besar yang mematikan atau terdokumentasi dengan baik yang mendeskripsikan kematian atau kekerasan yang dialami," tulis Youtube, dikutip Jumat (12/1/2024).

1. Gunakan materi konten dengan suara anak-anak dan gambaran kematian

Ilustrasi jenazah (IDN Times/Mardya Shakti)

Belakangan memang konten AI atau yang menggunakan kecerdasan buatan diarahkan pada materi yang bermuatan gambar anak yang meninggal atau hilang.

Dilansir dari Tech Cruch, pembuatan konten menggunakan AI untuk memberikan “suara” kekanak-kanakan kepada anak-anak korban kasus-kasus penting untuk menggambarkan kematian mereka. Jadi seperti menggambarkan simulasi kematian dalam kasus kriminal yang menimpa anak-anak.

2. Beberapa kasus kekerasan anak yang dijadikan konten

Aksi Sosial Peningkatan Kesehatan Ibu dan Anak di Kelurahan Ketapang Kuala, Kecamatan Panjang, Kota Bandar Lampung, Senin, (5/12/2023). (Dok. PLN UID Lampung).

Salah satu kisah yang dijadikan konten adalah penculikan dan kematian James Bulger, bocah dua tahun asal Inggris.

Selain itu, kisah Madeleine McCann, seorang anak Inggris berusia tiga tahun yang menghilang dari sebuah resor. Ada juga Gabriel Fernández, seorang anak laki-laki berusia delapan tahun yang disiksa dan dibunuh oleh ibu dan pacarnya di California.

3. Akan berakhir dengan penghapusan saluran pengguna

Ilustrasi bekerja (IDN Times/Arief Rahmat)

YouTube akan menghapus konten seperti itu sebagai kebijakan barunya, pengguna akan menerima teguran dan tidak bisa mengunggah video, melakukan siaran langsung atau cerita selama satu minggu.

Kemudian setelah tiga kali teguran dan tidak ditanggapi, saluran pengguna akan dihapus permanen dari YouTube.