Cegah Deepfake AI Pemilu 2029, Pemerintah Perlu Bikin Regulasi Ketat

18 Nov 2025, 13:25 WIB

Yosafat Diva Bayu Wisesa

Ilustrasi pemilu (IDN Times/Agung Sedana)

Intinya sih...

Teknologi berkembang pesat tanpa regulasi yang memadai
Media sosial perlu deteksi konten AI dan penjelasan kepada pengguna
Dibutuhkan Dewan Media Sosial untuk menjaga ruang digital

Disclaimer: This summary was created using Artificial Intelligence (AI)

Jakarta, IDN Times - Ketua Presidium Masyarakat Antifitnah Indonesia (Mafindo), Septiaji Eko Nugroho menilai, pemerintah perlu membuat regulasi ketat untuk mengantisipasi dampak buruk penggunaan akal imitasi atau artificial intelligence (AI) pada Pemilu 2029 mendatang.

Penggunaan AI dikhawatirkan berujung pada deepfake yang dimanfaatkan untuk kepentingan politik menjatuhkan pihak lawan. Akibatnya, masyarakat semakin berpotensi terpolarisasi.

"Bayangkan 2029 besok kita Google sudah Veo-nya versi berapa? Mungkin sudah, sudah lebih sulit lagi untuk kita deteksi, belum lagi platform lain, ada Dreamina, ada lagi dari Soraia, OpenAI," katanya menjawab pertanyaan IDN Times, dikutip Selasa (18/11/2025).

1. Teknologi terus berkembang tapi tak diimbangi dengan regulasi

Ilustrasi Artificial Intelligence. (Pixabay/geralt)

Eko menyebut, arus teknologi semakin berkembang pesat saat ini, namun sayangnya regulasi yang ada belum bisa mengimbanginya. Ia menilai, perlu ada aturan yang membahas soal standarisasi konten AI. Misalnya, peraturan agar setiap konten AI wajib diberikan watermark agar publik bisa membedakan.

"Ini kan sebenarnya konten dari Gemini, konten dari OpenAI, dari ChatGPT gitu, sudah ada watermark. Tapi watermark itu antar platform itu watermark-nya teknologinya beda-beda dan itu tidak semuanya mudah dideteksi. Kita butuh negara itu kemudian mendudukkan platform digital. Kalian boleh bikin konten AI tapi pastikan watermark-nya itu ada menggunakan satu standar yang bisa mudah dimengerti," tegas dia.

2. Media sosial perlu memberikan penjelasan terhadap konten AI

Ilustrasi media sosial. (IDN Times/Sukma Shakti)

Cara lain untuk antisipasi deepfake ialah membuat aturan agar perangkat media sosial bisa mendeteksi setiap konten yang dibuat apakah berasal dari AI atau bukan. Pemerintah dalam hal ini tentu perlu duduk bersama dengan platform AI dan media sosial. Dengan demikian masyarakat yang terpapar arus informasi di media sosial bisa dengan mudah memilah mana informasi yang benar atau hasil rekayasa AI.

"Kan konten AI ini kan diproduksi oleh platform AI, kemudian masuk ke media sosial. Platform media sosial seperti TikTok, Facebook, Instagram, dan yang lain itu mereka perlu bekerja sama ya dengan platform-platform AI. Ketika ada konten misalnya diproduksi oleh satu platform AI masuk ke media sosial, sistem yang di media sosial harus langsung auto flag. Oh ini kontennya dari kamu berarti ini AI, saya tandain AI dan masyarakat yang melihat konten ini, dia sudah langsung tahu," ungkap Eko.

3. Perlu dibuat Dewan Media Sosial

Ilustrasi media sosial yang digunakan anak muda. (IDN Times/Aditya Pratama)

Lebih lanjut, Eko mendorong agar dibentuknya sebuah lembaga Dewan Media Sosial. Institusi independen ini dibuat dengan melibatkan pemerintah, platform digital, dan masyarakat sipil. Tugasnya utamanya untuk menjaga ruang digital agar masyarakat terhindar dari berbagai ancaman arus informasi yang menyesatkan.

"Kami masih terus mendorong adanya inisiatif yang kita sebut dengan social media council. Mirip dengan Dewan Pers tapi ini fokusnya untuk isu ruang digital," imbuhnya.