Soal Deepfake dalam Pemilu, Wamenkominfo: Perlu Diantisipasi

Wamenkominfo menyebut bahwa kita perlu mengantisipasi tantangan negatif dari penggunaan AI yang tidak tepat. Penyalahgunaan deepfake sebetulnya sudah sering disosialisasikan, terutama dalam konteks Pemilihan Presiden (Pilpres) dan Pemilihan Legislatif (Pileg).

Misalnya di Pemilihan Umum Amerika Serikat, deepfake memasukkan profil dari Hillary Clinton untuk mendukung Gubernur Florida yang ternyata menyesatkan para pemilih dan merusak integritas demokrasi di negara tersebut.

"Ada beberapa deepfake untuk men-create public opinion. Kita juga melihat banyak pihak yang implementasi sistem pengawasan menggunakan teknologi face recognition yang berbasis AI untuk membantu pergerakan masyarakat," ujarnya.

Selain itu, teknologi ini juga digunakan untuk mengumpulkan data pribadi guna mengawasi hubungan sosial dan pandangan politik individu di sebuah negara.

Lebih lanjut dia mengatakan bahwa pengawasan semacam ini akan mengancam hak privasi dan kebebasan berekspresi. Adopsi AI ini bisa meningkatkan pengawasan keamanan negara, namun mengorbankan kebebasan berekspresi.

"Mengambil satu jalan tengah dan seimbang saya kira exercise pemerintahan demokratis. Harus ditopang oleh good will, satu panduan etika dalam kehidupan berpolitik. Satu exercise, terutama negara menuju advance economies, kita membutuhkan satu stabilitas untuk pertumbuhan ekonomi berjalan baik," jelas Nezar.

Namun pertumbuhan ekonomi yang baik juga menghasilkan sejumlah kesenjangan, membuat kelompok-kelompok masyarakat meningkatkan permintaannya pada partisipasi yang lebih besar, menggoyang stabilitas kehidupan sosial dan ekonomi.

Melansir dari situs Channel News Asia, pada akhir bulan Januari, Anies Baswedan menjadi korban disinformasi ketika sebuah video muncul di media sosial yang berisi rekaman suara dari Ketua Partai Nasional Demokrat (Nasdem), Surya Paloh yang tengah memarahi Anies karena kinerjanya yang buruk dalam pemilihan presiden.

Para ahli yang meneliti menyebut bahwa suara dalam video tersebut memang mirip dengan Anies dan Surya Paloh, namun pilihan kata, pengucapan dan ungkapannya terdengar berbeda dengan karakter mereka.

Ada juga video yang menampilkan mendiang dari Presiden Soeharto, yang mendesak masyarakat untuk memilih calon legislatif dari partai Golkar, partai yang didirikan olehnya pada 1964, juga menjadi kendaraan politiknya selama 32 tahun memerintah Indonesia.

Video tersebut memuji Susilo Bambang Yudhoyono dan Joko Widodo (Jokowi), karena telah menjalani visi Soeharto dalam membangun negara. Deepfake itu disinyalir mengandung kampanye politik.