Perusahaan AS Didenda karena Gunakan Suara AI Biden untuk Sebar Hoaks

23 Agu 2024, 16:09 WIB

Leo Manik

Presiden Amerika Serikat, Joe Biden. (twitter.com/@POTUS)

Intinya sih...

Lingo Telecom didenda Rp15,6 miliar oleh FCC AS karena kasus transmisi panggilan otomatis palsu yang meniru suara Presiden Joe Biden.
Panggilan otomatis kontroversial menggunakan teknologi kecerdasan buatan (AI) untuk menyebarkan hoaks kepada ribuan pemilih di New Hampshire.
FCC mengusulkan aturan baru yang mewajibkan pengungkapan penggunaan AI dalam iklan politik di radio dan televisi sebagai respons terhadap kasus ini.

Disclaimer: This summary was created using Artificial Intelligence (AI)

Jakarta, IDN Times - Lingo Telecom, perusahaan telekomunikasi Amerika Serikat, setuju membayar denda sebesar 1 juta dolar AS atau sekitar Rp15,6 miliar. Denda tersebut dijatuhkan oleh Komisi Komunikasi Federal (FCC) AS atas kasus transmisi panggilan otomatis palsu yang meniru suara Presiden Joe Biden.

Dilansir The Guardian pada Jumat, (23/8/2024), panggilan otomatis kontroversial ini menggunakan teknologi kecerdasan buatan (AI) untuk mengkloning suara Biden. Suara ini digunakan untuk menyebarkan hoaks kepada ribuan pemilih di New Hampshire pada 21 Januari 2024.

Pesan palsu tersebut mengatakan bahwa jika warga ikut memilih dalam pemilihan pendahuluan, mereka tidak bisa ikut memilih lagi dalam pemilihan umum bulan November nanti. Padahal, informasi ini tidak benar.

Kasus ini dianggap sebagai contoh awal yang mengkhawatirkan tentang bagaimana AI dapat digunakan untuk mempengaruhi pemilih dan mengancam integritas demokrasi. FCC menyatakan bahwa tindakan ini merupakan langkah tegas terhadap penyalahgunaan teknologi AI dalam komunikasi politik.

1. FCC wajibkan autentikasi ID penelepon lebih ketat

FCC awalnya mengusulkan denda 2 juta dolar AS untuk Lingo Telecom. Namun, setelah negosiasi, perusahaan setuju membayar 1 juta dolar AS. Perusahaan tersebut berjanji untuk mematuhi aturan autentikasi ID penelepon yang lebih ketat serta meningkatkan verifikasi informasi pelanggan.

Jessica Rosenworcel, Ketua FCC, menekankan pentingnya transparansi dalam penggunaan AI dalam komunikasi. Ia menyatakan bahwa setiap orang berhak mengetahui identitas asli suara di telepon.

"Jika AI digunakan, hal itu harus diklarifikasi kepada setiap konsumen, warga negara, dan pemilih yang menerimanya. FCC akan bertindak ketika kepercayaan terhadap jaringan komunikasi kita dipertaruhkan," ujar Rosenworcel.

2. Konsultan politik hadapi denda Rp94 miliar dan tuntutan pidana

Steve Kramer, konsultan politik yang mengoordinasikan panggilan otomatis kontroversial tersebut, kini menghadapi konsekuensi hukum yang lebih berat. FCC mengusulkan denda sebesar 6 juta dolar AS (sekitar Rp94 miliar) terhadapnya. Sementara itu, jaksa negara bagian New Hampshire juga mengajukan tuntutan pidana.

Economic Times melansir, Kramer mengklaim bahwa tujuannya adalah menyoroti bahaya potensial AI. Ia mengaku membayar 500 dolar AS atau sekitar Rp8 juta untuk mengirim panggilan ke pemilih.

Kramer pernah menyatakan kepada media sebelumnya bahwa ia bukan mencoba mempengaruhi hasil pemilihan pendahuluan. Ia menambahkan bahwa tujuannya adalah mendorong legislator untuk segera bertindak menyikapi potensi bahaya AI.

3. Deepfake AI dinilai ancam demokrasi menjelang pemilu AS 2024

Kasus ini memicu kekhawatiran luas tentang peran AI dalam komunikasi politik, terutama menjelang pemilihan umum AS 2024. Public Citizen, kelompok advokasi konsumen non-profit, memuji tindakan tegas FCC dalam kasus ini.

Robert Weissman, wakil presiden Public Citizen, menyebut deepfake AI sebagai ancaman eksistensial bagi demokrasi AS. Sementara itu, Loyaan Egal, Kepala Biro Penegakan FCC, memperingatkan ancaman serius dari kombinasi pemalsuan ID penelepon dan teknologi AI pengkloning suara.

Menanggapi kasus ini, FCC telah mengusulkan aturan yang mewajibkan pengungkapan penggunaan AI dalam iklan politik di radio dan televisi. Namun, regulasi ini belum mencakup iklan di internet atau media sosial.

Dilansir The Hill, Jaksa Agung New Hampshire, John Formella menyebut penyelesaian kasus ini sebagai kemenangan besar bagi integritas pemilihan. Ia menyatakan bahwa dengan meminta pertanggungjawaban Lingo Telecom, FCC mengirim pesan kuat bahwa gangguan pemilu dan teknologi penipuan tidak akan ditoleransi.

This article is written by our community writers and has been carefully reviewed by our editorial team. We strive to provide the most accurate and reliable information, ensuring high standards of quality, credibility, and trustworthiness.