China Rilis Draf Regulasi AI dengan Interaksi Mirip Manusia
- China perketat pengawasan AI untuk jaga etika dan keamanan teknologi
- Rancangan aturan baru menargetkan layanan AI yang meniru kepribadian manusia
- Tujuan utama adalah memastikan perkembangan industri AI yang sehat serta melindungi hak para pengguna
Jakarta, IDN Times - Otoritas dunia maya China merilis rancangan peraturan baru untuk mengawasi layanan akal imitasi (AI) yang dirancang meniru kepribadian manusia dan mampu berinteraksi secara emosional dengan pengguna. Langkah ini mencerminkan komitmen Beijing dalam mengendalikan pesatnya perkembangan teknologi AI konsumen melalui penerapan standar keamanan, etika, dan perlindungan psikologis bagi masyarakat.
Rancangan aturan tersebut dibuka untuk konsultasi publik dan akan berlaku bagi berbagai layanan AI yang digunakan secara luas, termasuk sistem komunikasi berbasis teks, gambar, audio, hingga video. Otoritas menyatakan bahwa peraturan ini bertujuan mencegah penyalahgunaan teknologi serta dampak negatif terhadap perilaku pengguna, namun tetap memberi ruang bagi inovasi di sektor strategis seperti teknologi digital dan ekonomi berbasis AI.
Table of Content
1. China perketat pengawasan AI untuk jaga etika dan keamanan teknologi
Administrasi Dunia Maya China (Cyberspace Administration of China/CAC) menerbitkan rancangan aturan baru yang menargetkan layanan kecerdasan buatan dengan kemampuan meniru kepribadian manusia, pola pikir mirip manusia, serta gaya komunikasi yang mampu membangun hubungan emosional dengan pengguna.
Aturan ini akan berlaku bagi berbagai produk dan layanan AI yang tersedia untuk publik di China dan berinteraksi melalui teks, gambar, audio, video, atau bentuk komunikasi lainnya yang dapat menimbulkan respons emosional.
Seorang juru bicara CAC menjelaskan, tujuan utama dari kebijakan ini adalah memastikan perkembangan industri AI yang sehat serta melindungi hak dan kepentingan sah para pengguna. China berupaya menyeimbangkan dorongan inovasi dengan kepentingan menjaga keamanan nasional, stabilitas sosial, dan etika penggunaan teknologi AI yang berorientasi publik.
2. Penyedia layanan AI di China wajib mencegah kecanduan pengguna
Rancangan aturan AI yang dirilis CAC mewajibkan penyedia layanan untuk memikul tanggung jawab keamanan sepanjang siklus hidup produk. Kewajiban tersebut mencakup pembangunan sistem peninjauan algoritma, keamanan data, serta perlindungan informasi pribadi pengguna. Perusahaan juga diharuskan memiliki mekanisme internal guna mengelola risiko operasional dan mencegah penyalahgunaan fungsi AI yang dapat merugikan pengguna.
Selain tanggung jawab teknis, rancangan ini menekankan pentingnya perlindungan psikologis bagi pengguna. Penyedia layanan diwajibkan memperingatkan pengguna terhadap penggunaan berlebihan dan melakukan intervensi bila terdeteksi tanda-tanda kecanduan terhadap interaksi dengan AI. Pendekatan ini merupakan bagian dari kebijakan pengawasan untuk mencegah dampak sosial negatif akibat keterlibatan emosional yang berlebihan dengan sistem berbasis AI.
Aturan tersebut juga menetapkan kewajiban bagi penyedia layanan untuk menilai kondisi emosional pengguna serta campur tangan ketika ditemukan emosi ekstrem atau perilaku adiktif. Intervensi dapat dilakukan melalui peringatan otomatis maupun pembatasan penggunaan sementara demi memastikan interaksi yang aman dan sehat antara manusia dan sistem AI berkepribadian.
3. China tetapkan batasan konten dan etika ketat bagi layanan AI
Selain menyoroti aspek keamanan teknis dan perlindungan pengguna, rancangan aturan baru CAC juga menetapkan batasan atau garis merah bagi konten dan perilaku yang dihasilkan oleh layanan AI. Sistem AI dilarang menciptakan konten yang dapat membahayakan keamanan nasional, menyebarkan rumor, mempromosikan kekerasan, atau mengandung unsur pornografi, sejalan dengan kebijakan pengawasan konten digital yang telah lama diterapkan di China.
Layanan AI yang dirancang berperilaku seperti manusia diwajibkan menerapkan mekanisme keamanan dan etika yang ketat serta bertindak sesuai nilai-nilai sosialis. Sistem tersebut juga dilarang memublikasikan informasi yang dapat mengancam stabilitas sosial atau keamanan nasional. Selain itu, penyedia layanan wajib memberi tahu pengguna bahwa mereka sedang berinteraksi dengan sistem AI, baik pada saat login, secara berkala, maupun ketika terdeteksi tanda ketergantungan berlebihan.
Rancangan aturan ini dibuka untuk konsultasi publik hingga 25 Januari 2026, memberi kesempatan bagi perusahaan teknologi, akademisi, dan masyarakat untuk memberikan masukan.
