PERURI Siap Perkuat Ekosistem Digital di Tengah Ancaman Kebocoran AI
- Prinsip Privacy by Design jadi kunci utama dalam pengembangan teknologi berbasis AI
- Ada prinsip kedaulatan data di era generatif AI
- Perlu hindari penggunaan shadow AI economy
Jakarta, IDN Times - Direktur Digital Business PERURI, Farah Fitria Rahmayanti mengatakan PERURI memperkuat komitmen dan positioning sebagai BUMN yang diamanatkan dalam bidang teknologi keamanan tinggi untuk menjaga kedaulatan digital serta memperkuat ekosistem digital nasional di era masifnya Artificial Intelligence (AI).
Data IBM Report menunjukkan bahwa 74 persen organisasi mengalami kebocoran AI pada tahun 2024, meningkat 67 persen dari tahun sebelumnya karena tidak memiliki kebijakan tata kelola AI.
"Fakta ini memperlihatkan bahwa regulasi, standar, dan panduan yang jelas sangat diperlukan agar AI dapat diadopsi secara aman sekaligus mendukung keberlanjutan bisnis," ungkapnya.
1. Prinsip Privacy by Design jadi kunci utama dalam pengembangan teknologi berbasis AI
Farah menekankan, penerapan prinsip Privacy by Design menjadi kunci utama dalam pengembangan teknologi berbasis AI.
Menurutnya, privasi tidak boleh diperlakukan hanya sebagai fitur tambahan, melainkan harus hadir sejak tahap awal perancangan sistem.
“Analogi pentingnya, prinsip ini seperti sabuk pengaman yang dipasang pada mobil saat dirakit, bukan setelah kendaraan selesai dibuat. Pendekatan ini diyakini mampu mengurangi risiko kebocoran data yang semakin meningkat seiring dengan masifnya adopsi AI,” ujar Farah.
2. Ada prinsip kedaulatan data di era generatif AI
Menurut Farah terdapat prinsip kedaulatan data di era generatif AI sebagai panduan praktis adopsi yang aman bagi organisasi, di antaranya menerapkan Zero-Trust Data Input, hanya menggunakan layanan AI kelas enterprise dengan jaminan zero data retention.
"Melakukan anonimisasi data sensitif, serta membangun panduan internal penyusunan prompt agar tidak memasukkan informasi rahasia," tegasnya.
3. Perlu hindari penggunaan shadow AI economy
Sebaliknya, praktik yang perlu dihindari adalah penggunaan shadow AI oleh karyawan, mengunggah dokumen internal secara penuh ke platform publik, mengabaikan analisis kontrak dan syarat layanan, serta membiarkan kerentanan terhadap serangan prompt injection.
Melalui prinsip tersebut, setiap layanan digital yang dikembangkan PERURI diarahkan tidak hanya menjadi produk yang nyaman dan stabil, tetapi juga aman.
" Tujuan akhirnya adalah membangun ekosistem AI yang berkelanjutan dan beretika, sekaligus mendukung visi besar Indonesia Emas 2045," jelasnya.
