Aturan AI Makin Ketat, Perusahaan RI Berisiko Kena Denda 2 Persen

Di tengah berkembangnya pemanfaatan AI, ancaman keamanan siber juga meningkat. BSSN mencatat terdapat 3,64 miliar serangan siber dan lebih dari 56 juta paparan data yang berdampak pada 461 organisasi di Indonesia sepanjang tahun lalu.

Tak hanya itu, perusahaan juga menghadapi fenomena shadow AI, yakni penggunaan aplikasi AI oleh karyawan tanpa persetujuan maupun pengawasan dari tim teknologi informasi. Secara global, sekitar 68 persen perusahaan mengaku menghadapi persoalan tersebut sehingga kesulitan menunjukkan bukti kepatuhan ketika diminta regulator.

Langkah penguatan regulasi terlihat dari diterbitkannya AI Governance Handbook for Indonesian Banks oleh OJK pada 2025. Pedoman tersebut mengatur tata kelola AI berdasarkan tiga prinsip utama, yakni akuntabilitas, pengawasan manusia (human oversight), dan keandalan (reliability).

Sementara itu, pemerintah juga tengah menyiapkan Peraturan Presiden tentang Etika dan Keamanan AI yang diproyeksikan berlaku secara nasional. Regulasi tersebut akan mengatur registrasi model AI hingga kewajiban penilaian risiko untuk sistem AI berisiko tinggi.

Melihat meningkatnya kebutuhan akan tata kelola AI, perusahaan penyedia solusi AI governance asal Singapura, Veranthios, resmi memperluas bisnisnya ke Indonesia melalui kemitraan dengan PT Digivla Indonesia. Platform yang dikembangkan Veranthios dirancang untuk membantu perusahaan menemukan seluruh sistem AI yang digunakan di dalam organisasi, termasuk AI yang digunakan tanpa persetujuan perusahaan. Selain itu, platform tersebut juga mampu menyediakan bukti kepatuhan yang dapat diverifikasi untuk memenuhi kebutuhan audit regulator.

Veranthios juga menawarkan pemantauan risiko AI secara berkelanjutan. Sistem akan mendeteksi perubahan perilaku AI, akses terhadap data, hingga koneksi yang berada di luar batas kebijakan perusahaan secara real time. Dengan demikian, perusahaan dapat lebih cepat memenuhi kewajiban pelaporan insiden, termasuk ketentuan notifikasi pelanggaran data dalam waktu 72 jam sebagaimana diatur UU PDP.

Presiden Direktur PT Digivla Indonesia, Reza Maulana, mengatakan tantangan terbesar perusahaan saat ini bukan lagi memahami regulasi AI, melainkan mampu membuktikan bahwa sistem AI yang digunakan benar-benar berjalan sesuai ketentuan.

"Arah regulasi di Indonesia sudah sangat jelas. Tantangannya kini bukan lagi memahami aturan, tetapi menunjukkan setiap saat bahwa sistem AI perusahaan terus beroperasi sesuai persyaratan. Banyak organisasi masih belum memiliki visibilitas menyeluruh terhadap penggunaan AI, terutama ketika Agentic AI mulai berkembang. Melalui kemitraan ini, kami ingin membantu perusahaan memperkuat kepatuhan, mengurangi risiko operasional, sekaligus mempercepat adopsi AI yang bertanggung jawab," ujar Reza.

Meningkatnya pengawasan terhadap AI menunjukkan bahwa transformasi digital kini tak lagi hanya soal mengadopsi teknologi baru. Bagi dunia usaha, kemampuan membangun tata kelola AI yang transparan, aman, dan sesuai regulasi akan menjadi faktor penting untuk menjaga kepercayaan pelanggan sekaligus mengurangi risiko hukum di masa depan.