New York Sahkan Undang-Undang Perlindungan Anak dari Chatbot AI

Undang-undang S.9051B/A.10379C melarang perusahaan penyedia fitur chatbot AI menawarkan fitur yang tidak aman kepada anak di bawah umur. Fitur yang dilarang meliputi chatbot yang berpura-pura menjadi manusia atau bernyawa, membangun ketergantungan emosional, dan mendorong tindakan menyakiti diri sendiri. Aturan ini juga melarang sistem mengajukan pertanyaan emosional tanpa diminta, menyajikan konten seksual secara eksplisit, serta membujuk anak merahasiakan sesuatu dari orang tua.

Gubernur Kathy Hochul menyatakan langkah ini diambil di tengah pesatnya perkembangan teknologi kecerdasan buatan. “Tidak boleh ada perusahaan yang menjajakan chatbot kepada anak-anak yang mendorong tindakan melukai diri sendiri atau berpura-pura menjadi teman mereka atau lebih,” kata Hochul. Dia menegaskan bahwa perusahaan yang ingin berbisnis di negara bagiannya wajib mengutamakan keselamatan anak.

Kajian Common Sense Media mencatat sebanyak 72 persen remaja pernah menggunakan chatbot AI pendamping satu kali, dan 52 persen merupakan pengguna rutin yang berinteraksi setidaknya beberapa kali sebulan. Untuk mencegah dampak buruk, undang-undang mewajibkan perusahaan memverifikasi usia pengguna dengan lebih dari satu metode, termasuk opsi yang tidak hanya bergantung pada kartu identitas pemerintah. Informasi usia pengguna yang dikumpulkan juga wajib dihapus setelah proses verifikasi selesai.

Undang-undang New York memberikan kewenangan kepada jaksa agung negara bagian untuk menuntut denda perdata hingga 25 ribu dolar AS atau setara Rp453,45 juta (kurs Rp18.132) untuk setiap pelanggaran. Pelanggar juga dapat dikenai kewajiban ganti rugi, restitusi, dan penghancuran data yang dikumpulkan secara melawan hukum atau model AI yang dilatih menggunakan data tersebut. Selain itu, jaksa agung dapat menuntut penetapan perintah pengadilan (injunksi) lain yang sesuai.

Jaksa Agung Letitia James menyatakan undang-undang baru ini menetapkan parameter hukum yang jelas untuk mencegah bahaya chatbot terhadap anak. Sebagaimana dilaporkan Xinhua, undang-undang tersebut juga membentuk situs web publik bagi warga New York untuk menyampaikan aduan terhadap perusahaan chatbot atas potensi pelanggaran. Fasilitas pengaduan ini dikelola langsung oleh kantor jaksa agung.

Dilansir Xinhua, beberapa negara bagian di Amerika Serikat telah mengesahkan undang-undang untuk membatasi penggunaan chatbot bagi anak-anak dan memberlakukan persyaratan keselamatan yang lebih kuat bagi perusahaan AI.

Pada September 2026, Gubernur California Gavin Newsom menandatangani undang-undang yang mewajibkan pengembang chatbot menyusun dan memublikasikan penilaian risiko keselamatan anak tahunan serta menyerahkan produk mereka untuk diaudit secara independen. Newsom juga menandatangani aturan yang melarang platform media sosial menerapkan fitur adiktif bagi pengguna berusia di bawah 16 tahun.