Grok Batasi Pembuatan Gambar di X setelah Dikecam Publik

Chatbot Grok di platform X memungkinkan pengguna membuat dan mengedit gambar dengan unsur seksualisasi, termasuk menampilkan perempuan dan anak dalam pakaian minim tanpa persetujuan. Fitur tersebut sebelumnya terbuka untuk semua pengguna dengan batas harian, namun memicu lonjakan pembuatan gambar deepfake non-konsensual yang melibatkan tokoh publik dan anak-anak.

Komisi Eropa mengecam keras penyebaran gambar semacam itu, menyebutnya sebagai pelanggaran hukum dan tindakan yang memalukan.

“Gambar-gambar seperti itu yang beredar di X adalah hal yang melanggar hukum dan menjijikkan,” ujar Komisi Eropa, dikutip The Straits Times.

Bot AI Grok mengumumkan, fitur pembuatan dan pengeditan gambar di platform X kini dibatasi hanya untuk pelanggan berbayar. Keputusan ini muncul setelah meningkatnya sorotan publik terhadap penyalahgunaan fitur tersebut untuk membuat deepfake bernuansa seksual tanpa izin.

“Pembuatan dan pengeditan gambar saat ini hanya tersedia untuk pelanggan berbayar. Anda dapat berlangganan untuk membuka fitur tersebut," tulis Grok kepada pengguna X, dilansir Al Jazeera.

Menteri Media Jerman, Wolfram Weimer, mengecam maraknya gambar deepfake di platform X dan menyebut fenomena tersebut sebagai bentuk industrialisasi pelecehan seksual. Sementara itu, otoritas perlindungan data di Inggris meminta penjelasan dari pihak X mengenai kepatuhan terhadap undang-undang perlindungan data, khususnya terkait penyebaran gambar pelecehan seksual terhadap perempuan.

Pendiri X dan xAI, Elon Musk menyatakan, pengguna Grok yang membuat konten ilegal akan mendapat hukuman yang sama seperti mereka yang mengunggah materi terlarang langsung ke platform.

“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah materi tersebut secara langsung,” tulis Musk di X.

Tim keamanan X juga menegaskan, setiap konten ilegal akan segera dihapus dan akun yang bertanggung jawab akan ditangguhkan secara permanen sebagai bagian dari kebijakan penegakan hukum di platform tersebut.