Kasus penyalahgunaan AI untuk memanipulasi foto menunjukkan bahwa begitu foto kamu ada di internet, kontrol bisa cepat hilang. Teknologi kini mampu mengubah gambar biasa menjadi konten yang merugikan tanpa izin.
Baru-baru ini, konten tidak senonoh menggunakan AI di platform X, Grok, tengah ramai menjadi perbincangan. Peneliti AI Forensics menganalisis 50 ribu penyebutan Grok dan 20 ribu gambar yang dihasilkan dalam satu minggu. Seperempat interaksi berisi permintaan pembuatan gambar dengan kata kunci yang paling sering muncul berkaitan langsung dengan penghapusan pakaian dan seksualisasi.
Lebih dari setengah gambar menampilkan orang dengan pakaian sangat minim, mayoritas perempuan yang terlihat berusia di bawah 30 tahun. Sekitar 2 persen gambar menggambarkan individu di bawah 18 tahun, termasuk anak di bawah lima tahun. Berikut langkah yang bisa kamu lakukan untuk mencegah fotomu digunakan untuk hal-hal yang tidak diinginkan.