China Rilis Draf Regulasi AI dengan Interaksi Mirip Manusia

Administrasi Dunia Maya China (Cyberspace Administration of China/CAC) menerbitkan rancangan aturan baru yang menargetkan layanan kecerdasan buatan dengan kemampuan meniru kepribadian manusia, pola pikir mirip manusia, serta gaya komunikasi yang mampu membangun hubungan emosional dengan pengguna.

Aturan ini akan berlaku bagi berbagai produk dan layanan AI yang tersedia untuk publik di China dan berinteraksi melalui teks, gambar, audio, video, atau bentuk komunikasi lainnya yang dapat menimbulkan respons emosional.

Seorang juru bicara CAC menjelaskan, tujuan utama dari kebijakan ini adalah memastikan perkembangan industri AI yang sehat serta melindungi hak dan kepentingan sah para pengguna. China berupaya menyeimbangkan dorongan inovasi dengan kepentingan menjaga keamanan nasional, stabilitas sosial, dan etika penggunaan teknologi AI yang berorientasi publik.

Rancangan aturan AI yang dirilis CAC mewajibkan penyedia layanan untuk memikul tanggung jawab keamanan sepanjang siklus hidup produk. Kewajiban tersebut mencakup pembangunan sistem peninjauan algoritma, keamanan data, serta perlindungan informasi pribadi pengguna. Perusahaan juga diharuskan memiliki mekanisme internal guna mengelola risiko operasional dan mencegah penyalahgunaan fungsi AI yang dapat merugikan pengguna.

Selain tanggung jawab teknis, rancangan ini menekankan pentingnya perlindungan psikologis bagi pengguna. Penyedia layanan diwajibkan memperingatkan pengguna terhadap penggunaan berlebihan dan melakukan intervensi bila terdeteksi tanda-tanda kecanduan terhadap interaksi dengan AI. Pendekatan ini merupakan bagian dari kebijakan pengawasan untuk mencegah dampak sosial negatif akibat keterlibatan emosional yang berlebihan dengan sistem berbasis AI.

Aturan tersebut juga menetapkan kewajiban bagi penyedia layanan untuk menilai kondisi emosional pengguna serta campur tangan ketika ditemukan emosi ekstrem atau perilaku adiktif. Intervensi dapat dilakukan melalui peringatan otomatis maupun pembatasan penggunaan sementara demi memastikan interaksi yang aman dan sehat antara manusia dan sistem AI berkepribadian.

Selain menyoroti aspek keamanan teknis dan perlindungan pengguna, rancangan aturan baru CAC juga menetapkan batasan atau garis merah bagi konten dan perilaku yang dihasilkan oleh layanan AI. Sistem AI dilarang menciptakan konten yang dapat membahayakan keamanan nasional, menyebarkan rumor, mempromosikan kekerasan, atau mengandung unsur pornografi, sejalan dengan kebijakan pengawasan konten digital yang telah lama diterapkan di China.

Layanan AI yang dirancang berperilaku seperti manusia diwajibkan menerapkan mekanisme keamanan dan etika yang ketat serta bertindak sesuai nilai-nilai sosialis. Sistem tersebut juga dilarang memublikasikan informasi yang dapat mengancam stabilitas sosial atau keamanan nasional. Selain itu, penyedia layanan wajib memberi tahu pengguna bahwa mereka sedang berinteraksi dengan sistem AI, baik pada saat login, secara berkala, maupun ketika terdeteksi tanda ketergantungan berlebihan.

Rancangan aturan ini dibuka untuk konsultasi publik hingga 25 Januari 2026, memberi kesempatan bagi perusahaan teknologi, akademisi, dan masyarakat untuk memberikan masukan.