Grok di Bawah Sorotan Uni Eropa Usai Diduga Gagal Tekan Konten Ilegal

Menurut Komisi Eropa, X belum menyusun penilaian risiko sementara yang cukup saat meluncurkan fitur pembuatan dan pengeditan gambar Grok di kawasan Eropa. xAI telah menerapkan sejumlah pembatasan, seperti memblokir pengguna di wilayah tertentu agar tak dapat menghasilkan gambar orang berpakaian minim serta mencegah penghapusan pakaian secara digital pada individu.

Meski begitu, langkah tersebut dinilai belum mampu menangani keseluruhan risiko sistemik yang telah diidentifikasi. Apabila terbukti melanggar DSA, perusahaan berpotensi dikenai sanksi denda hingga 6 persen dari total omzet tahunan global.

Selain itu, Komisi Eropa memperluas penyelidikan yang telah dibuka sejak Desember 2023 terhadap sistem rekomendasi konten di X. Cakupan pemeriksaan kini meliputi risiko baru yang muncul setelah platform beralih ke algoritma rekomendasi berbasis Grok. Regulator juga mengingatkan bahwa langkah sementara dapat diberlakukan jika X tidak melakukan penyesuaian signifikan pada layanannya.

Pada periode sebelumnya, X telah dijatuhi denda sebesar 150 juta euro (sekitar Rp2,98 triliun), atas pelanggaran kewajiban transparansi DSA terkait sistem verifikasi tanda centang biru.

Di luar Uni Eropa, regulator media Inggris Ofcom membuka penyelidikan terpisah untuk menilai kepatuhan X terhadap DSA, terutama menyangkut pembuatan gambar manipulasi eksplisit seksual. Penyelidikan serupa juga berlangsung di Australia, Prancis, dan Jerman. Sementara itu, alat tersebut sempat dilarang sementara di Indonesia dan Malaysia, sebelum larangan di Malaysia dicabut.

Anggota Parlemen Eropa asal Irlandia, Regina Doherty, menyampaikan adanya pertanyaan serius mengenai kepatuhan platform seperti X dalam menilai risiko secara menyeluruh dan mencegah peredaran konten ilegal serta berbahaya.

“Uni Eropa memiliki aturan jelas untuk melindungi orang secara daring. Aturan-aturan tersebut harus bermakna dalam praktik, terutama ketika teknologi kuat diterapkan dalam skala besar. Tidak ada perusahaan yang beroperasi di Uni Eropa yang berada di atas hukum,” katanya, dikutip dari BBC.

Para pegiat dan korban menyebut kemampuan pembuatan gambar semacam itu sebagai sesuatu yang seharusnya tak pernah ada. Akun resmi Grok di X melaporkan bahwa lebih dari 5,5 miliar gambar telah dihasilkan melalui alat tersebut hanya dalam kurun 30 hari.

Menjelang pengumuman resmi Uni Eropa, Musk sempat mengunggah gambar di X yang terkesan menyindir pembatasan baru terhadap Grok. Sebelumnya, ia kerap mengkritik regulator, terutama pemerintah Inggris, dengan menuduh mereka menggunakan isu tersebut dijadikan dalih untuk melakukan sensor. Langkah Uni Eropa itu kemudian menuai kecaman dari pejabat AS, termasuk Menteri Luar Negeri Marco Rubio dan Komisi Komunikasi Federal (FCC), yang menilai tekanan regulasi tersebut sebagai serangan terhadap perusahaan teknologi dan masyarakat Amerika. Musk kemudian me-repost pernyataan tersebut dengan komentar yang menunjukan persetujuannya.