Mantan Bos Google Ungkap Bahaya AI buat Anak, Lebih Buruk dari Medsos

Menurut Siegel, salah satu hal yang membedakan AI dari media sosial adalah cara teknologi tersebut berinteraksi dengan pengguna. Chatbot AI dapat memberikan respons secara langsung dan personal, termasuk ketika anak bertanya tentang masalah pribadi, kesehatan mental, pendidikan, hingga berbagai persoalan sehari-hari.

Interaksi tersebut dinilai dapat menimbulkan risiko bagi anak dan remaja yang masih mengembangkan kemampuan berpikir kritis. Siegel menyoroti kemungkinan anak terlalu bergantung pada AI untuk mendapatkan jawaban, sehingga mereka bisa semakin jarang memeriksa informasi, menganalisis persoalan, atau mencari solusi secara mandiri. Ia juga memperingatkan potensi risiko terhadap kesehatan mental.

Meski demikian, pernyataan Siegel merupakan peringatan mengenai potensi dampak AI, bukan berarti teknologi tersebut secara otomatis menimbulkan masalah yang sama pada setiap anak. AI juga dapat dimanfaatkan untuk mendukung pembelajaran, kreativitas, dan akses informasi. Penggunaan teknologi ini tetap membutuhkan pendampingan agar anak memahami keterbatasan dan risiko AI.

Siegel mendorong perusahaan AI memperketat mekanisme verifikasi usia. Menurutnya, penyedia layanan perlu mengetahui apakah pengguna merupakan anak atau orang dewasa agar sistem perlindungan dapat disesuaikan berdasarkan usia. Ia juga mengusulkan pengujian keselamatan independen terhadap layanan AI. Pengujian tersebut dapat dilakukan seperti pengujian keselamatan kendaraan, sehingga potensi risiko sebuah teknologi bisa dinilai sebelum digunakan secara luas.

Saat ini, Siegel bergabung dengan Common Sense Media sebagai direktur eksekutif pertama Youth AI Safety Institute. Lembaga tersebut berfokus pada penelitian penggunaan AI oleh anak serta pengembangan standar keselamatan untuk teknologi AI. Google menyatakan telah menyediakan kontrol bagi orang tua untuk mengatur akses anak ke mesin pencari.

Perusahaan juga menilai fitur AI di Search dapat membantu anak belajar. Sementara itu, OpenAI mengatakan menggunakan informasi usia, sinyal akun, dan perilaku untuk membantu mengidentifikasi pengguna di bawah umur. OpenAI menyatakan sistem tersebut terus diuji dan dikembangkan karena tidak ada satu metode verifikasi usia yang sepenuhnya sempurna.

Isu keselamatan anak dalam penggunaan teknologi digital juga menjadi perhatian pemerintah Indonesia. Pemerintah telah menerbitkan PP Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak atau PP TUNAS. Aturan tersebut kemudian diperkuat melalui Permen Komdigi Nomor 9 Tahun 2026 yang mengatur klasifikasi risiko produk, layanan, dan fitur digital, kewajiban penyelenggara sistem elektronik, mitigasi risiko, pengawasan, hingga penyediaan layanan ramah anak.

Mengutip laman Kementerian Komunikasi dan Digital (Komdigi), pemerintah mulai menerapkan pembatasan akses akun bagi anak di bawah 16 tahun secara bertahap pada sejumlah platform digital berisiko tinggi sejak 28 Maret 2026. Platform tersebut mencakup YouTube, TikTok, Facebook, Instagram, Threads, X, Bigo Live, dan Roblox. Kebijakan ini ditujukan untuk melindungi anak dari berbagai risiko di ruang digital dan tidak secara otomatis berarti melarang seluruh layanan berbasis AI.

Dalam evaluasi enam bulan penerapan PP TUNAS pada September 2026, Komdigi menyatakan sekitar 28 juta anak telah mendapatkan perlindungan melalui penerapan berbagai kewajiban pelindungan anak di platform digital. Pemerintah juga masih melakukan verifikasi profil risiko produk, layanan, dan fitur serta mengevaluasi penerapan langkah perlindungan oleh penyedia layanan.

Perkembangan AI menghadirkan tantangan baru dalam upaya melindungi anak di ruang digital. Selain perlindungan dari sisi regulasi dan teknologi, anak juga perlu dibekali kemampuan untuk memahami keterbatasan AI, memeriksa kebenaran informasi, serta tidak menjadikan chatbot sebagai satu-satunya sumber ketika membutuhkan jawaban atau nasihat.