Daftar Negara yang Mengambil Sikap atas Dampak Negatif Grok AI

Indonesia tercatat sebagai negara pertama yang secara resmi mengambil sikap terhadap dampak negatif penggunaan Grok. Langkah tegas ini diambil pemerintah melalui Kementerian Komunikasi dan Digital (Kemkomdigi) sebagai bagian dari upaya melindungi masyarakat, khususnya perempuan dan anak, dari risiko eksploitasi seksual di ruang digital. Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

Dalam pernyataan resminya yang disampaikan melalui situs Kementerian Komunikasi dan Digital pada 10 Januari 2026, Meutya menyatakan bahwa pemerintah memutuskan untuk melakukan pemutusan akses sementara terhadap aplikasi Grok. Kebijakan ini diambil sebagai langkah perlindungan untuk mencegah penyebaran konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial dan berpotensi merugikan masyarakat luas. "Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok." tegas Meutya dalam pernyataan resminya melalui situs resmi Komdigi (10/1/2026).

Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai ancaman serius terhadap keamanan, martabat, dan hak dasar warga negara di ruang digital. Selain melakukan pembatasan akses, Kemkomdigi juga meminta Platform X untuk hadir dan memberikan klarifikasi terkait dampak negatif penggunaan Grok. Mengutip IDN Times, kebijakan pemutusan akses tersebut dilandaskan pada kewenangan yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Regulasi ini mewajibkan setiap platform digital memastikan layanannya tidak memuat maupun memfasilitasi konten yang dilarang oleh hukum Indonesia.

Sebelum pernyataan resmi dikeluarkan, Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, pada 7 Januari 2026 mengungkapkan bahwa hasil penelusuran awal menunjukkan Grok belum memiliki mekanisme pengamanan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto asli warga Indonesia. Kondisi tersebut dinilai berpotensi melanggar hak privasi dan hak atas citra diri (right to one’s image), terutama ketika foto individu dimanipulasi atau disebarluaskan tanpa persetujuan yang sah. Kemkomdigi menegaskan bahwa manipulasi digital terhadap foto pribadi tidak dapat dipandang semata sebagai persoalan kesusilaan. Praktik tersebut juga merupakan bentuk perampasan kendali individu atas identitas visualnya, yang berpotensi menimbulkan dampak psikologis, sosial, dan kerugian reputasi bagi korban.

Menyusul langkah yang diambil Indonesia, Malaysia turut memberlakukan larangan sementara terhadap akses Grok. Malaysian Communications and Multimedia Commission (MCMC) memerintahkan pemblokiran tersebut setelah menemukan adanya penyalahgunaan berulang Grok untuk menghasilkan konten cabul, manipulasi seksual, dan gambar seksual non-konsensual. MCMC mengungkapkan bahwa pihaknya telah mengirimkan dua surat peringatan kepada X dan xAI sepanjang bulan ini yang menuntut penerapan sistem pengamanan yang lebih kuat.

Namun, X menyatakan bahwa Grok sebagian besar masih mengandalkan laporan dari pengguna untuk menangani konten bermasalah. Regulator Malaysia kemudian menyimpulkan bahwa X gagal mengantisipasi risiko inheren dalam desain dan pengoperasian platform AI tersebut. Menurut MCMC, pendekatan tersebut tidak memenuhi standar yang ditetapkan dalam hukum Malaysia. Pembatasan akses terhadap Grok dinilai sebagai langkah pencegahan yang proporsional dan akan tetap diberlakukan selama proses hukum dan regulasi berlangsung, hingga mekanisme perlindungan yang efektif benar-benar diterapkan.

Mengutip laporan Reuters, Malaysia sebagai salah satu negara dengan mayoritas penduduk Muslim memiliki regulasi ketat terkait konten daring, termasuk larangan terhadap materi pornografi. Otoritas setempat juga mengategorikan perjudian daring, penipuan, pornografi anak dan praktik grooming, perundungan siber, maupun konten yang menyentuh isu ras, agama, dan institusi kerajaan sebagai bentuk konten berbahaya.

European Commission tengah menelaah laporan terkait kemunculan gambar bernuansa seksual dan eksplisit yang menampilkan anak perempuan, yang diduga dihasilkan oleh Grok. Mengutip Euronews, seorang juru bicara Komisi Eropa menegaskan kepada jurnalis di Brussel bahwa otoritas Uni Eropa memandang isu ini dengan sangat serius dan sedang melakukan penilaian awal. Seiring hal tersebut, European Commission memerintahkan X untuk menyimpan seluruh dokumen yang berkaitan dengan Grok hingga akhir tahun. Langkah tersebut diambil guna memungkinkan evaluasi menyeluruh terhadap kepatuhan platform tersebut terhadap regulasi Uni Eropa. Meski demikian, Komisi menekankan bahwa langkah ini belum berarti penyelidikan formal telah diluncurkan.

Presiden European Commission Ursula von der Leyen menyampaikan kecaman keras terhadap praktik teknologi yang memungkinkan pengguna “melucuti pakaian perempuan dan anak-anak secara digital”. Dalam wawancara dengan surat kabar Italia Corriere della Sera, von der Leyen menegaskan bahwa Uni Eropa tidak akan menyerahkan perlindungan anak dan prinsip persetujuan kepada perusahaan teknologi di Silicon Valley. Ia menambahkan, jika platform-platform tersebut gagal bertindak, European Commission siap mengambil langkah tegas.

Otoritas media Inggris, Ofcom, meluncurkan penyelidikan terhadap X dan xAI, perusahaan induk pengembang Grok, menyusul penggunaan chatbot tersebut untuk menghasilkan gambar seksual eksplisit dan nonkonsensual. Dalam pernyataannya, Ofcom menyebut adanya laporan yang “sangat mengkhawatirkan” terkait Grok yang digunakan untuk membuat dan menyebarkan gambar orang tanpa busana, termasuk konten seksual yang melibatkan anak-anak. Jika X dinilai tidak memenuhi kewajiban yang ditetapkan regulator, Ofcom dapat meminta perintah pengadilan guna memaksa penyedia layanan internet memblokir akses ke Grok. Perusahaan juga berisiko dikenai denda hingga 10 persen dari pendapatan globalnya atau sebesar 20 juta Euro atau setara 391 miliar rupiah.

Menteri Teknologi Inggris, Liz Kendall, menyatakan dukungannya terhadap langkah Ofcom tersebut. Ia menegaskan bahwa konten yang beredar melalui Grok dalam beberapa hari terakhir bersifat “sangat menjijikkan” dan melanggar hukum. “Konten ini bukan hanya mencederai nilai-nilai masyarakat yang beradab, tetapi juga merupakan tindakan ilegal,” ujar Kendall dalam pernyataannya di hadapan parlemen. Dalam laporan Reuters, Kendall menyambut baik penyelidikan yang dilakukan Ofcom dan menekankan pentingnya proses yang cepat dan tegas. Menurutnya, publik tidak akan menerima adanya penundaan dalam penanganan kasus ini. Kendall juga menyatakan akan memberikan pembaruan kepada parlemen terkait perkembangan penyelidikan tersebut.

Kantor Kejaksaan Paris memperluas penyelidikannya terhadap platform X dengan memasukkan Grok pada awal Januari 2026. Langkah ini diambil setelah tiga menteri dan dua anggota parlemen Prancis menuduh Grok telah menghasilkan dan menyebarkan video seksual palsu, termasuk konten yang diduga menampilkan anak di bawah umur. Informasi tersebut disampaikan oleh sumber kejaksaan kepada surat kabar Le Parisien.

Penyelidikan terhadap X sendiri telah berlangsung sejak Juli 2025 lalu, menyusul sejumlah laporan yang menuding jejaring sosial tersebut telah memanipulasi algoritma platform untuk kepentingan dugaan intervensi asing dan praktik pengambilan data secara ilegal. Seiring meluasnya cakupan perkara, Grok kini turut menjadi bagian dari proses hukum yang sedang berjalan. Selain itu, Otoritas Regulasi Komunikasi Audiovisual dan Digital Prancis (Arcom) juga telah menerima laporan terkait kemungkinan pelanggaran kewajiban X berdasarkan Digital Services Act (DSA), regulasi Uni Eropa yang mengatur tanggung jawab layanan digital terhadap konten dan risiko sistemik.

Di tingkat Uni Eropa, Komisi Eropa turut mengambil langkah lanjutan pada 8 Januari melalui penerapan tindakan konservatif terhadap X. Komisi mengeluarkan perintah hukum yang mewajibkan perusahaan tersebut menyimpan seluruh dokumen internal terkait Grok hingga akhir 2026. Menurut juru bicara Komisi, langkah ini diambil untuk memastikan ketersediaan bukti dalam proses evaluasi kepatuhan X terhadap aturan layanan digital Eropa.

Pada 8 Januari 2026, Otoritas Perlindungan Data Italia (Garante) memperingatkan bahwa penggunaan Grok maupun platform AI lainnya untuk menghapus pakaian seseorang dari gambar dan penyebaran hasil manipulasi tersebut yang berpotensi menimbulkan konsekuensi pidana. Menurut Garante, penggunaan teknologi semacam itu tanpa persetujuan individu yang ada dalam foto dapat dikategorikan sebagai pelanggaran serius terhadap hak dan kebebasan fundamental, terutama terkait privasi dan martabat manusia. Otoritas tersebut juga menegaskan bahwa penyedia layanan AI, termasuk Grok, wajib merancang, mengembangkan, dan mendistribusikan produk yang sepenuhnya mematuhi regulasi perlindungan data dan privasi.

Garante menyatakan tengah berkoordinasi dengan Komisi Perlindungan Data Irlandia yang menjadi otoritas utama pengawas privasi bagi X, mengingat kantor pusat perusahaan tersebut berada di Irlandia. Langkah tegas Italia terhadap penyalahgunaan AI bukanlah hal baru. Pada Oktober 2025, otoritas setempat memblokir ClothOff, sebuah platform AI yang memungkinkan pengguna (termasuk anak di bawah umur) menciptakan gambar dan video yang menampilkan individu nyata dalam kondisi telanjang atau berpose seksual. Bahkan, sejak September 2025, Italia telah memperbarui hukum pidananya yakni menambahkan pasal khusus yang mengancam pelaku penyebaran deepfake berbasis AI yang dikenai hukuman penjara hingga lima tahun.

Mengutip laporan Bundesregierung, Pemerintah Jerman menyatakan akan segera mengajukan proposal konkret untuk undang-undang baru yang menargetkan kekerasan digital. Juru bicara Kementerian Kehakiman Jerman, Anna-Lena Beckfeld, dalam konferensi pers Januari 2026 ini menjelaskan bahwa regulasi tersebut dirancang untuk memperkuat perlindungan korban kekerasan digital dan mempermudah mereka mengambil tindakan langsung terhadap pelanggaran hak di ruang daring. Menanggapi isu Grok secara khusus, Beckfeld menegaskan bahwa praktik manipulasi digital dalam skala luas yang berujung pada pelanggaran sistemik terhadap hak personal merupakan hal yang tidak dapat diterima.

Ia menambahkan bahwa pemerintah Jerman mendorong penerapan langkah yang lebih tegas melalui instrumen hukum pidana untuk mengatasi permasalahan tersebut. Langkah ini sejalan kesepakatan tiga partai utama Jerman pada 2025 untuk mereformasi undang-undang kejahatan siber dan menutup celah hukum dalam hukum pidana, khususnya terkait kejahatan berbasis AI, termasuk pembuatan gambar seksual hasil rekayasa kecerdasan buatan.

eSafety Commissioner Australia telah menerima sejumlah aduan terkait konten AI seksual yang dihasilkan Grok. Meski jumlah laporan tersebut masih tergolong sedikit, trennya menunjukkan peningkatan dalam beberapa pekan terakhir. Otoritas setempat menegaskan akan menggunakan kewenangannya untuk memerintahkan penghapusan konten bermasalah apabila terbukti melanggar Online Safety Act termasuk menerbitkan removal notice.

Sebagai langkah awal, eSafety Commissioner telah meminta klarifikasi dan informasi tambahan dari X terkait dugaan penyalahgunaan layanan seksual Grok, sekaligus menilai kepatuhan platform tersebut terhadap regulasi media sosial baru di Australia. Otoritas juga mengingatkan bahwa mulai 9 Maret, seluruh layanan daring, termasuk perusahaan AI, diwajibkan memblokir akses anak-anak terhadap konten seksual, kekerasan, dan materi berbahaya lainnya. Respons Australia ini sekaligus melengkapi deretan tindakan yang diambil berbagai negara dalam menyikapi dampak negatif Grok.

Setiap negara memberikan pendekatan yang berbeda dalam menyikapi dampak negatif Grok. Fokus yang sebelumnya bertumpu pada inovasi dan kebebasan berekspresi kini bergeser menuju penegakan akuntabilitas, perlindungan hak asasi manusia, dan keselamatan publik di ruang digital. Apakah negara lain akan menyusul dengan langkah serupa untuk menyatakan sikap terhadap Grok?