Kominfo Soroti Black Campaign yang Gunakan AI: Makin Sulit Dibedakan

Pada Pemilu 2019, ada beberapa hoaks yang dibuat menggunakan artificial intelligence. Namun, saat itu konten yang dibuat menggunakan AI mudah diidentifikasi, tetapi sekarang kemajuan teknologi konten hoaks sulit dikenali.

"Tapi waktu itu bentuknya masih gampang dikenali. Nah sekarang jauh lebih smooth karena kemajuan generative AI yang menghasilkan teks juga suara, serta gambar dengan sangat koheren, dengan sangat smooth sehingga kita agak sulit membedakan dengan sekali bahwa ini adalah karya generatif AI. Itu yang saya kira yang menjadi hal baru dalam penyebaran hoax tahun ini," katanya.

Nezar menambahkan, penggunaan AI sebagai medium penyebaran hoaks bukan hal yang khas di Indonesia. Berbagai negara sudah menggunakan AI lebih awal untuk menyebarkan informasi politik terkait pemilu. 

"Ini bukan khas Indonesia, karena sejak generatif AI muncul kira-kira 3-4 tahun yang lalu itu sudah banyak digunakan di berbagai momen pemilu di berbagai negara untuk menyebarkan hoaks," kata Nezar.

Kementerian Kominfo menyatakan sudah mengantisipasi hoaks Pemilu 2024 dengan menggandeng pemangku kepentingan. Nezar menambahkan, peredaran informasi yang berkarakter misinformasi, disinformasi, dan malinformasi, ini berada dalam satu ekosistem. 

Salah satu yang digandeng adalah platform media sosial, karena di media sosial masyarakat tidak hanya mengonsumsi informasi, tetapi juga turut menyebarkan atau membuat.

"Kita punya kerja sama yang cukup baik dengan platform media sosial, karena platform yang paling rentan penyebaran misinformasi dan disinformasi. Karena pengguna media sosial atau pemilik akun media sosial mereka adalah konsumen informasi sekaligus juga bisa produsen informasi," ujarnya.

"Jadi nggak ada proses gatekeeping di situ, nggak ada proses seleksi informasi di situ nggak ada proses verifikasi informasi. Jadi menyebar begitu saja," kata Nezar.