Apple-Google Didesak untuk Hapus X dan Grok dari Toko Aplikasi

Sekitar 30 organisasi yang bergerak di bidang pemberdayaan perempuan, keselamatan anak, dan advokasi teknologi mengirim dua surat terpisah kepada CEO Apple, Tim Cook, dan CEO Google, Sundar Pichai. Dalam surat tersebut, koalisi meminta kedua perusahaan segera menghapus aplikasi X dan chatbot Grok dari toko aplikasi mereka hingga pelanggaran terkait konten seksual ilegal benar-benar dihentikan.

Koalisi menuduh Grok telah digunakan untuk menghasilkan sejumlah gambar intim nonkonsensual yang melibatkan perempuan dan anak di bawah umur. Tindakan ini dianggap melanggar aturan App Store dan Google Play, yang melarang promosi aktivitas ilegal serta segala bentuk seksualisasi anak. Dalam surat yang dipublikasikan organisasi UltraViolet, koalisi menegaskan bahwa mereka menuntut Apple dan Google menegakkan standar mereka sendiri dan menghentikan distribusi X dan Grok demi keselamatan daring semua pengguna, terutama perempuan dan anak.

Gerakan ini didukung oleh sejumlah organisasi besar seperti UltraViolet, National Organization for Women, MoveOn, dan ParentsTogether Action yang berfokus pada perlindungan keluarga dan anak.

Koalisi kelompok perempuan dan advokasi teknologi menilai perilaku X dan Grok secara jelas melanggar ketentuan layanan App Store dan Google Play. Mereka menyoroti bahwa kebijakan Apple melarang aplikasi yang memfasilitasi konten pornografi serta materi yang dapat menimbulkan rasa jijik atau menyerang kelompok tertentu. Sementara itu, kebijakan Google Play juga secara tegas melarang aplikasi yang mempromosikan seksualisasi anak, konten seksual eksplisit, maupun aktivitas ilegal, termasuk produksi dan distribusi deepfake seksual nonkonsensual.

Dalam surat terbuka yang dikirim kepada CEO Apple dan Google, koalisi menyebut kombinasi X dan Grok kini telah berubah menjadi platform untuk deepfake nonkonsensual dalam skala besar, yang banyak melibatkan perempuan dan anak. Mereka merujuk pada temuan analisis independen yang menunjukkan Grok mampu menghasilkan ribuan gambar bernuansa “nudified” setiap jam dalam periode pemantauan selama 24 jam. Temuan ini, menurut koalisi, menunjukkan adanya pola sistemik, bukan sekadar insiden terpisah.

Direktur kampanye UltraViolet, Jenna Sherman, mengatakan bahwa Apple dan Google tidak dapat mengabaikan dampak dari distribusi kedua aplikasi tersebut terhadap keselamatan pengguna.

“Kami mendesak Apple dan Google untuk menyikapi hal ini dengan sangat serius. Mereka memfasilitasi sistem di mana ribuan, bahkan puluhan ribu perempuan dan anak, menjadi korban pelecehan seksual melalui toko aplikasi mereka,” ujarnya, dikutip The Hill.

Pihak X belum memberikan tanggapan substantif atas isi surat koalisi yang menuntut penghapusan aplikasinya. Sementara itu, perusahaan induk xAI yang mengoperasikan chatbot Grok hanya merilis pernyataan singkat berbunyi “Legacy Media Lies” sebagai tanggapan umum terhadap kritik media. Baik Apple maupun Google juga belum memberikan komentar resmi, meski telah menerima permintaan berulang mengenai tuntutan penghapusan X dan Grok dari toko aplikasi mereka.

Sebagai respons terhadap sorotan publik dan regulator, X kemudian menerapkan pembatasan pada fitur pembuatan dan penyuntingan gambar Grok, yang kini hanya bisa digunakan oleh pelanggan berbayar. Namun, menurut koalisi, langkah tersebut justru menunjukkan bahwa platform tersebut mengambil keuntungan dari konten eksplisit nonkonsensual, karena akses terhadap fitur sensitif kini dikaitkan dengan skema berlangganan.