Diblokir Indonesia, Grok Juga Tuai Kecaman Dunia
- Indonesia nilai deepfake seksual sebagai pelanggaran HAM
- xAI akui celah pengamanan Grok
- Kritik terhadap Grok juga datang dari berbagai negara Eropa. Komisi Eropa memerintahkan X untuk menyimpan seluruh dokumen terkait Grok lebih lama demi
Jakarta, IDN Times - Pemerintah Indonesia memblokir sementara akses ke Grok, chatbot akal imitasi (AI) milik Elon Musk, menyusul temuan risiko penyebaran konten pornografi yang dihasilkannya. Indonesia menjadi negara pertama di dunia yang secara resmi menutup akses ke Grok karena kekhawatiran pelanggaran serius di ruang digital.
Langkah ini diambil setelah muncul laporan Grok memungkinkan pembuatan dan penyuntingan gambar seksual tanpa persetujuan, termasuk visualisasi perempuan dan anak-anak dalam pose seksual. Sejumlah pemerintah dan regulator global sebelumnya juga mengecam praktik tersebut dan membuka penyelidikan.
Menteri Komunikasi dan Digital Republik Indonesia, Meutya Hafid, menegaskan praktik pembuatan deepfake seksual non-konsensual merupakan pelanggaran berat terhadap hak asasi manusia dan martabat warga negara.
"Kami memandang praktik pornografi berbasis AI tanpa persetujuan sebagai pelanggaran serius terhadap HAM, martabat manusia, dan keamanan warga di ruang digital," ujar Meutya dalam pernyataan resmi.
1. Indonesia nilai deepfake seksual sebagai pelanggaran HAM
Kementerian Komunikasi dan Digital menyatakan pemblokiran dilakukan sebagai langkah perlindungan masyarakat, sejalan dengan regulasi nasional yang melarang distribusi konten asusila di ruang daring. Indonesia, sebagai negara dengan populasi muslim terbesar di dunia, memiliki aturan ketat terkait konten pornografi dan kesusilaan.
Selain pemblokiran sementara, Kemenkominfo juga telah memanggil perwakilan platform X untuk dimintai klarifikasi dan membahas langkah pengamanan lebih lanjut. Pemerintah menekankan keamanan digital dan perlindungan warga, terutama kelompok rentan seperti anak-anak, menjadi prioritas utama dalam pengembangan dan pemanfaatan teknologi AI.
2. xAI akui celah pengamanan Grok
Dikutip The Independent, Minggu (11/1/2026), xAI, perusahaan rintisan di balik Grok, mengakui adanya kegagalan sistem pengaman yang memungkinkan keluarnya konten seksual, termasuk visualisasi anak-anak berpakaian minim. Perusahaan menyatakan telah membatasi fitur pembuatan dan penyuntingan gambar hanya untuk pelanggan berbayar sambil memperbaiki celah tersebut.
Elon Musk melalui platform X menyatakan, siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi sama seperti mengunggahnya secara langsung.
Namun, saat dimintai komentar, xAI hanya membalas dengan pesan singkat yang terkesan otomatis, "Legacy Media Lies". Sementara, manajemen X belum memberikan tanggapan resmi atas masalah ini.
3. Sorotan global terhadap konten seksual AI
Kritik terhadap Grok juga datang dari berbagai negara Eropa. Komisi Eropa memerintahkan X untuk menyimpan seluruh dokumen terkait Grok lebih lama demi memastikan kepatuhan terhadap aturan Uni Eropa, setelah chatbot tersebut dikecam karena menghasilkan gambar seksual.
Swedia turut mengecam setelah Wakil Perdana Menterinya menjadi sasaran pembuatan gambar seksual berbasis AI. Perdana Menteri Swedia, Ulf Kristersson, menyebut praktik tersebut sebagai bentuk kekerasan seksual digital yang tidak dapat diterima.
Gelombang kecaman global ini mendorong xAI untuk mulai menerapkan pembatasan fitur Grok, setelah sebelumnya pengguna dapat dengan mudah mengedit foto orang lain, termasuk menghilangkan pakaian dan menempatkan mereka dalam pose seksual, tanpa persetujuan, lalu mempublikasikannya langsung di platform X.
