New York Sahkan Undang-Undang Perlindungan Anak dari Chatbot AI
- Gubernur New York Kathy Hochul menandatangani UU yang melarang chatbot AI menawarkan fitur berisiko bagi anak, termasuk menyamar sebagai manusia, membangun ketergantungan emosional, dan mendorong tindakan menyakiti diri.
- Perusahaan wajib memverifikasi usia dengan lebih dari satu metode dan menghapus data usia setelah verifikasi. Pelanggaran dapat didenda hingga 25 ribu dolar AS per kasus, disertai restitusi atau penghancuran data.
- UU New York juga menyediakan situs pengaduan publik yang dikelola jaksa agung. California sebelumnya mewajibkan penilaian risiko anak tahunan dan audit independen bagi pengembang chatbot.
Jakarta, IDN Times - Gubernur New York Kathy Hochul menandatangani rancangan undang-undang untuk melindungi anak-anak dari risiko chatbot kecerdasan buatan (AI), Rabu (28/10/2026). Aturan ini disahkan di Albany, New York, untuk memperkuat keamanan online anak dan melindungi warga dari ancaman teknologi baru.
Regulasi baru tersebut melarang sejumlah fitur chatbot yang tidak aman bagi pengguna di bawah umur. Perusahaan yang terbukti melanggar ketentuan ini terancam sanksi denda perdata hingga puluhan ribu dolar AS.
1. Larangan fitur tertentu pada bot kecerdasan buatan
tampilan antarmuka asisten AI Grok (unsplash.com/Salvador Rios) Undang-undang S.9051B/A.10379C melarang perusahaan penyedia fitur chatbot AI menawarkan fitur yang tidak aman kepada anak di bawah umur. Fitur yang dilarang meliputi chatbot yang berpura-pura menjadi manusia atau bernyawa, membangun ketergantungan emosional, dan mendorong tindakan menyakiti diri sendiri. Aturan ini juga melarang sistem mengajukan pertanyaan emosional tanpa diminta, menyajikan konten seksual secara eksplisit, serta membujuk anak merahasiakan sesuatu dari orang tua.
Gubernur Kathy Hochul menyatakan langkah ini diambil di tengah pesatnya perkembangan teknologi kecerdasan buatan. “Tidak boleh ada perusahaan yang menjajakan chatbot kepada anak-anak yang mendorong tindakan melukai diri sendiri atau berpura-pura menjadi teman mereka atau lebih,” kata Hochul. Dia menegaskan bahwa perusahaan yang ingin berbisnis di negara bagiannya wajib mengutamakan keselamatan anak.
Kajian Common Sense Media mencatat sebanyak 72 persen remaja pernah menggunakan chatbot AI pendamping satu kali, dan 52 persen merupakan pengguna rutin yang berinteraksi setidaknya beberapa kali sebulan. Untuk mencegah dampak buruk, undang-undang mewajibkan perusahaan memverifikasi usia pengguna dengan lebih dari satu metode, termasuk opsi yang tidak hanya bergantung pada kartu identitas pemerintah. Informasi usia pengguna yang dikumpulkan juga wajib dihapus setelah proses verifikasi selesai.
2. Penerapan denda perdata dan situs pelaporan warga
ilustrasi aplikasi AI (pexels.com/Aerps.com) Undang-undang New York memberikan kewenangan kepada jaksa agung negara bagian untuk menuntut denda perdata hingga 25 ribu dolar AS atau setara Rp453,45 juta (kurs Rp18.132) untuk setiap pelanggaran. Pelanggar juga dapat dikenai kewajiban ganti rugi, restitusi, dan penghancuran data yang dikumpulkan secara melawan hukum atau model AI yang dilatih menggunakan data tersebut. Selain itu, jaksa agung dapat menuntut penetapan perintah pengadilan (injunksi) lain yang sesuai.
Jaksa Agung Letitia James menyatakan undang-undang baru ini menetapkan parameter hukum yang jelas untuk mencegah bahaya chatbot terhadap anak. Sebagaimana dilaporkan Xinhua, undang-undang tersebut juga membentuk situs web publik bagi warga New York untuk menyampaikan aduan terhadap perusahaan chatbot atas potensi pelanggaran. Fasilitas pengaduan ini dikelola langsung oleh kantor jaksa agung.
3. Aturan keselamatan AI di California
ilustrasi undang-undang (unsplash.com/Sasun Bughdaryan) Dilansir Xinhua, beberapa negara bagian di Amerika Serikat telah mengesahkan undang-undang untuk membatasi penggunaan chatbot bagi anak-anak dan memberlakukan persyaratan keselamatan yang lebih kuat bagi perusahaan AI.
Pada September 2026, Gubernur California Gavin Newsom menandatangani undang-undang yang mewajibkan pengembang chatbot menyusun dan memublikasikan penilaian risiko keselamatan anak tahunan serta menyerahkan produk mereka untuk diaudit secara independen. Newsom juga menandatangani aturan yang melarang platform media sosial menerapkan fitur adiktif bagi pengguna berusia di bawah 16 tahun.
