ChatGPT Kini Bisa Prediksi Usia untuk Lindungi User di Bawah Umur

Model prediksi usia pada ChatGPT bekerja dengan cara menganalisis berbagai sinyal perilaku dan data pengguna akun. Beberapa di antaranya meliputi usia yang dinyatakan pengguna, umur akun, waktu aktivitas, serta pola penggunaan dalam jangka waktu tertentu. Jika sistem memperkirakan seorang pengguna berusia di bawah 18 tahun, ChatGPT bakal secara otomatis menerapkan perlindungan tambahan. Caranya dengan membatasi akses terhadap konten sensitif supaya pengalaman penggunaan tetap aman dan sesuai usia.

Menurut infromasi resmi di laman OpenAI, berikut adalah jenis konten yang dibatasi ChatGPT untuk pengguna di bawah umur:

1. Konten berisi kekerasan dan menampilkan darah (gore).

2. Berisi tantangan viral yang berpotensi mengarahkan pengguna untuk melakukan hal-hal yang berisiko atau membahayakan bagi pengguna di bawah umur.

3. Roleplay yang berbau pornografi dan kekerasan.

4. Membahas penggambaran self harm (melukai diri).

5. Konten berisi standar kecantikan ekstrem, seperti diet ekstrem yang gak sehat dan body shaming.

Pendekatan model prediksi usia ini dikembangkan berdasarkan masukan para ahli dan riset akademis mengenai perkembangan anak-anak maupun remaja. Di antaranya termasuk bagaimana perkembangannya dari aspek kontrol impuls, pengaruh teman sebaya, dan regulasi emosi. Jika informasi usia pengguna dirasa kurang cukup jelas atau kurang lengkap buat dideteksi, sistem bakal secara otomatis menerapkan pengalaman interaksi dengan chatbot AI secara lebih aman.

Pengguna dewasa yang keliru teridentifikasi sebagai pengguna di bawah 18 tahun tetap memiliki opsi untuk mengembalikan akses akun mereka. Caranya dengan melakukan verifikasi usia menggunakan selfie. Saat ini, fitur prediksi usia pada ChatGPT sudah mulai diluncurkan secara global untuk meningkatkan perlindungan pengguna usia anak-anak dan remaja. Namun, khusus beberapa negara di wilayah Eropa, OpenAI masih menunda penerapannya sementara waktu untuk menyesuaikan regulasi setempat yang berlaku.

OpenAI saat ini tengah menghadapi penyelidikan dari Federal Trade Commission (FTC) Amerika Serikat terkait dampak negatif chatbot AI terhadap remaja. Sejumlah gugatan hukum lainnya hingga kini juga masih berjalan. Sebelumnya, banyak pengguna mengeluhkan kalau ChatGPT belum sepenuhnya efektif dalam memblokir konten sensitif sehingga anak di bawah umur berpotensi terpapar informasi kekerasan dan pornografi. Konten seperti ini tentu bisa berdampak buruk bagi perkembangan psikologis anak dan remaja. Jika dibiarkan akan berimbas pada isu kesehatan mental yang lebih serius.

Seiring makin luasnya penggunaan AI, semakin banyak pula remaja yang memanfaatkan ChatGPT sebagai sarana belajar maupun hiburan. Di sisi lain, kemampuan mereka dalam menyaring informasi belum sepenuhnya matang. Pesaing ChatGPT, seperti Google Bard dan Anthropic Claude sudah lebih dulu menghadirkan fitur perlindungan anak melalui klasifikasi konten berdasarkan usia yang diinput saat pembuatan akun. Namun, deklarasi usia secara suka rela seperti ini kerap mudah dipalsukan oleh anak-anak dan remaja.

Menanggapi berbagai keluhan dan gugatan dari pengguna, ChatGPT kini menghadirkan fitur prediksi usia untuk melindungi user di bawah umur. Melalui model prediksi ini, ChatGPT dapat mengklasifikasikan pengguna di bawah 18 tahun berdasarkan waktu aktivitas hingga pola penggunaan akun dalam jangka waktu tertentu. Cara seperti ini dilakukan untuk menghindari adanya pemalsuan umur yang dilakukan oleh anak-anak dan remaja saat mereka membuat akun ChatGPT. Menurut kamu, apakah langkah OpenAI sudah cukup efektif?