Presiden Yoon Janji Tindak Tegas Kejahatan Seks di Korsel

"Baru-baru ini, video deepfake yang menargetkan sejumlah besar orang beredar dengan cepat di media sosial," kata Yoon dalam rapat Kabinet.

"Siapa pun bisa menjadi korban dari kejahatan seks digital semacam itu. Saya mendesak semua otoritas terkait untuk menyelidiki dan mengidentifikasi kejahatan tersebut secara menyeluruh sambil juga memberikan langkah-langkah pendidikan yang tepat untuk membangun budaya digital yang sehat."

Teknologi deepfake menggabungkan kecerdasan buatan dengan gambar atau video yang ada untuk membuat media yang hampir tidak bisa dibedakan dari foto atau video asli, terutama dengan memetakan satu wajah ke wajah lain.

Melansir NBC News, kekhawatiran nasional terhadap pornografi deepfake semakin meningkat setelah ditemukan sebuah ruang obrolan di Telegram yang aktif sejak tahun 2020 dengan sekitar 1.200 peserta, yang digunakan untuk berbagi gambar seksual eksplisit yang menampilkan wajah yang diubah secara digital dari lebih dari 30 mahasiswi di Universitas Inha di Incheon.

Para peserta ruang obrolan tersebut juga membagikan informasi pribadi para korban, termasuk nomor telepon dan alamat yang terkait.

Sejak itu, media lokal melaporkan adanya lebih banyak ruang obrolan Telegram yang terhubung dengan kampus-kampus universitas lainnya, sekolah menengah pertama dan atas, serta unit militer, di mana para pelaku memposting foto-foto perempuan yang mereka kenal secara pribadi, yang kemudian digunakan untuk menghasilkan konten pornografi deepfake.

Para pelaku di beberapa ruang obrolan akan saling berbagi tautan ke program otomatis untuk menghasilkan video pornografi deepfake yang dibagikan dalam kelompok-kelompok ini, sementara di ruang obrolan lainnya mereka akan saling berbagi konten pornografi deepfake.

Pengguna media sosial telah menyebarkan daftar lokasi dan sekolah di mana para korban memiliki konten seksual eksplisit yang dihasilkan dengan teknologi deepfake, meskipun keabsahannya belum dikonfirmasi. Sebuah unggahan yang mencakup nama-nama dan wajah-wajah dugaan pelaku juga mulai menyebar dengan cepat.

Karena sejumlah korban juga adalah siswa di bawah umur, Kementerian Pendidikan menyatakan pada hari Selasa bahwa mereka telah mengirimkan pemberitahuan kepada 17 kantor pendidikan di seluruh Korea untuk memeriksa status kasus yang terkait dengan konten pornografi deepfake di sekolah dan melaporkannya langsung ke kementerian.

Kantor Pendidikan Metropolitan Seoul mengatakan bahwa mereka sedang dalam proses mengidentifikasi kasus semacam itu bekerja sama dengan Badan Kepolisian Nasional Korea, sementara Kantor Pendidikan Provinsi Gyeonggi mengirim pemberitahuan kepada orang tua untuk mengingatkan siswa agar berhati-hati dalam mengungkapkan informasi pribadi mereka secara online dan berhati-hati dalam memposting atau mengirim informasi pribadi orang lain secara online tanpa izin mereka.

Menurut Yonhap News Agency, pencarian di Telemetrio, platform yang membantu mencari ruang obrolan Telegram, menunjukkan lebih dari 100 saluran semacam itu untuk berbagi dan mendistribusikan konten seksual eksplisit. Satu saluran deepfake Telegram, yang diketahui memiliki sekitar 133.400 pelanggan, menerima foto-foto individu yang dikirimkan oleh pengguna untuk menghasilkan foto-foto seksual eksplisit.

Ruang obrolan lainnya, dengan masing-masing 1.800 dan 3.500 anggota aktif, juga ditemukan di Telemetrio, di mana pengguna akan berbagi foto deepfake dan informasi tentang mahasiswi tertentu di universitas mereka.

Menanggapi penyebaran cepat konten seksual eksplisit yang dihasilkan melalui teknologi deepfake, Komisi Standar Komunikasi Korea mengatakan pada hari Selasa bahwa mereka memutuskan untuk membuat pintasan terpisah di situs web mereka yang didedikasikan untuk melaporkan konten pornografi deepfake, yang sebelumnya hanya memiliki pintasan untuk melaporkan kejahatan seks digital.

Selain itu, komisi berencana untuk menggandakan personel pemantauan untuk merespons penyebaran konten semacam itu secara real time, sambil juga membangun saluran komunikasi dengan Telegram untuk berkomunikasi lebih cepat dengan layanan pesan tersebut dalam menanggapi insiden semacam itu.

Dalam jumpa pers pada hari Selasa, Perdana Menteri Han Duck-soo menyatakan bahwa negara harus "menindak tegas kejahatan digital, setingkat dengan penindakan keras pemerintah terhadap narkoba ilegal saat ini."

“Pendidikan tentang teknologi digital baru dan bahaya yang ditimbulkannya jika disalahgunakan harus diajarkan. Pemerintah, media, dan masyarakat sipil harus bekerja sama untuk memastikan bahwa kemajuan teknologi tidak disalahgunakan," kata Han.

Partai oposisi utama, Partai Demokrat Korea, juga menambahkan bahwa mereka akan membentuk satuan tugas untuk merespons kejahatan seks deepfake dan memperkenalkan peraturan untuk memperkuat hukuman bagi para pelaku.

Melalui pernyataan resmi yang dirilis kepada pers pada hari Selasa, partai oposisi utama menyatakan bahwa Rep. Lee Jae-myung, pemimpin Partai Demokrat, menyerukan "langkah-langkah untuk melindungi korban kejahatan seks deepfake dan hukuman yang lebih berat bagi pencipta dan penyebar konten seksual deepfake."

Melansir Asia News Network, Korean National Police Agency (KNPA) menambahkan pada hari Selasa bahwa mereka akan melakukan penindakan khusus selama tujuh bulan terhadap kejahatan seks digital yang melibatkan deepfake untuk melacak dan menangkap pelaku yang terlibat dalam produksi pornografi deepfake, dari produksi hingga distribusi. Mereka juga akan mendukung secara aktif semua penyelidikan yang dilakukan oleh badan kepolisian metropolitan dan provinsi, seperti membantu analisis melalui perangkat lunak deteksi deepfake dan bekerja sama dengan otoritas di luar negeri, jika diperlukan. Jika korban kejahatan tersebut diidentifikasi sebagai anak di bawah umur, polisi akan merespons lebih ketat, karena itu akan dianggap sebagai eksploitasi seksual anak dan remaja.

Sementara itu, KNPA melaporkan bahwa total 297 kasus terkait kejahatan eksploitasi seksual deepfake dilaporkan dari Januari hingga Juli tahun ini. Dari 178 tersangka yang diidentifikasi, 131 di antaranya adalah anak di bawah umur, yang mencakup 73,6 persen dari para pelaku.

Pada jumpa pers hari Senin, Badan Kepolisian Metropolitan Seoul mengatakan telah menerima hingga 10 laporan terkait eksploitasi seksual di Telegram antara Januari hingga Juli tahun ini dan menangkap 10 anak di bawah umur yang berusia 14 tahun ke atas.