ilustrasi pekerja wanita di bidang teknologi (unsplash.com/ Christina @ wocintechchat.com)
AI akan menjadi penggerak utama dalam Operasi Keamanan (SOC), di mana analis manusia tetap memegang peran penting meski dalam kapasitas yang lebih mendukung. Seperti halnya kendaraan otonom yang tetap diawasi oleh manusia, SOC akan semakin bergantung pada proses berbasis AI. Teknologi ini akan mengotomatiskan tugas seperti pemindaian kerentanan dan deteksi ancaman, sementara tugas analitik tingkat lanjut dan strategi respons tetap menjadi domain para ahli manusia. Evolusi yang dipimpin AI ini akan mengubah SOC menjadi sistem yang gesit, efisien, siap menghadapi ancaman yang terus berkembang.
Namun, perubahan ini tidak berarti bahwa AI akan menggantikan peran manusia sepenuhnya. Sebaliknya, transformasi ini menekankan pentingnya kolaborasi antara keduanya. Meningkatnya jumlah ancaman siber bikin kecepatan dan akurasi AI akan menjadi kunci dalam mendukung pengambilan keputusan manusia. Pergeseran ini memungkinkan analis manusia untuk fokus pada tugas dengan tingkat kecerdasan yang lebih tinggi, seperti analitik mendalam dan pemikiran strategis.
Oleh karena itu, organisasi perlu memprioritaskan transparansi dan komunikasi proaktif tentang cara kerja model AI. Hal ini mencakup aspek seperti pengumpulan data, penggunaan dataset pelatihan, dan proses pengambilan keputusan. Memberikan informasi yang jelas kepada karyawan dan pelanggan tentang cara AI beroperasi bisa jadi cara organisasi membangun kredibilitas dan memperkuat hubungan kepercayaan. Kepala Keamanan Informasi (CISO) disarankan untuk membentuk dewan AI guna mengatur batasan sistem otonom sekaligus mendorong budaya adopsi AI di seluruh organisasi.
Salah satu tantangan utama dalam membangun kepercayaan terhadap AI adalah besarnya volume data yang digunakan untuk mengambil keputusan. Dengan petabyte data yang menjadi dasar kesimpulan AI, makin sulit bagi manusia untuk secara manual memverifikasi akurasi rekomendasi AI. Alih-alih mencari jarum dalam tumpukan jerami, keputusan AI justru didasarkan pada tumpukan jarum, di mana tiap elemen data memiliki relevansi tertentu. Oleh karena itu, organisasi harus mengembangkan model yang dapat melacak dan menjelaskan proses pengambilan keputusan AI secara akurat. Transparansi ini menjadi sangat penting di sektor seperti keuangan, di mana keamanan berbasis AI dapat menimbulkan kekhawatiran terkait pemblokiran transaksi yang sah.
Di masa depan, diperkirakan akan ada kemajuan lebih lanjut dalam tata kelola dan regulasi AI di seluruh dunia. Uni Eropa, yang sebelumnya sukses dengan Regulasi Perlindungan Data Umum (GDPR) dan Undang-Undang AI kemungkinan besar akan memperkuat inisiatif kedaulatan digitalnya, termasuk peraturan lebih ketat terkait privasi data dan aturan transfer data lintas negara. Di Timur Tengah, transformasi digital yang pesat akan mendorong pemerintah untuk menetapkan undang-undang keamanan siber yang lebih ketat guna melindungi infrastruktur penting dan memperluas persyaratan pemrosesan data lokal. Negara-negara di Amerika Latin, seperti Brasil dan Meksiko, juga diharapkan memperkuat kerangka kerja keamanan siber nasional mereka serta meningkatkan kolaborasi dalam perjanjian aliran data lintas batas.