Riset IBM Ungkap Tantangan Besar AI di Perbankan RI

Riset PERBANAS dan IBM menemukan bahwa 34 persen responden menyatakan organisasi mereka masih menggunakan AI dalam proyek percontohan atau uji coba terbatas. Sementara itu, 18 persen sudah menerapkannya untuk beberapa kebutuhan operasional dan 12 persen belum menjajaki penggunaan AI.

Meski penerapannya mulai berkembang, hanya 4 persen responden yang menyebut organisasinya telah memperluas penggunaan AI lintas fungsi dengan tata kelola formal. Bahkan, baru 9 persen yang memiliki inventaris penggunaan AI secara lengkap dan diperbarui secara berkala. Kondisi ini memperlihatkan bahwa penggunaan AI belum sepenuhnya diikuti mekanisme pengawasan yang memadai.

Persoalan tersebut juga tercermin dari skor kematangan tata kelola AI yang berada di angka 2,74 dari skala 5. Penilaian ini mencakup dokumentasi, validasi, pemantauan kinerja, evaluasi berkala, dan pengawasan manusia. Artinya, bank masih perlu memperkuat proses internal sebelum memperluas penerapan AI dalam kegiatan operasional.

Selain kesiapan tata kelola, penelitian ini menemukan bahwa 73 persen bankir Indonesia menilai kedaulatan digital relevan bagi transformasi perbankan dalam 12 hingga 24 bulan mendatang. Tingkat relevansinya mencapai skor 3,98 dari skala 5, atau hampir 80 persen.

Menariknya, kedaulatan digital tidak lagi sekadar dipahami sebagai persoalan lokasi penyimpanan data. Dalam jajak pendapat interaktif, 70 persen peserta mengartikannya sebagai kemampuan organisasi untuk mempertahankan kendali atas data, sistem, dan teknologi yang digunakan.

Kendali tersebut mencakup infrastruktur, pengelolaan data, siklus hidup model AI, aplikasi, pengambilan keputusan, hingga akuntabilitas. Bagi perbankan, kemampuan ini menjadi penting karena penggunaan AI mulai menyentuh berbagai fungsi yang berkaitan dengan layanan nasabah dan operasional.

"Seiring meningkatnya adopsi AI, prioritas industri perbankan adalah membangun pemahaman bersama tentang penerapan kedaulatan digital dalam praktik," ujar Toto Prasetio, Ketua Bidang Technology & Security PERBANAS.

"Keselarasan yang lebih kuat antara bank, regulator, asosiasi industri dan mitra teknologi akan berperan penting dalam membangun tata kelola serta kapabilitas yang dibutuhkan untuk mendukung adopsi AI yang bertanggung jawab dan tepercaya," tambahnya.

Privasi data menjadi perhatian terbesar responden dalam penggunaan AI di sektor perbankan. Sebanyak 82 persen menempatkannya sebagai risiko yang paling perlu dikendalikan, jauh di atas keamanan siber sebesar 44 persen dan risiko regulasi sebesar 41 persen.

Selain itu, 21 persen responden menyoroti pentingnya explainability atau kemampuan menjelaskan dasar keputusan AI. Sementara itu, 12 persen memilih auditability, yakni kemampuan untuk memeriksa dan menelusuri proses pengambilan keputusan yang melibatkan AI.

Temuan ini memperlihatkan bahwa tantangan AI di perbankan tidak berhenti pada keamanan sistem. Bank juga perlu memastikan bagaimana data digunakan, keputusan dihasilkan, dan prosesnya dapat dipertanggungjawabkan, terutama ketika AI diterapkan pada fungsi yang berkaitan dengan nasabah.

Riset ini juga menyoroti kebutuhan pengembangan sumber daya manusia. Dari 91 responden, sebanyak 66 orang memilih pelatihan tata kelola AI sebagai bentuk dukungan yang paling dibutuhkan, disusul asesmen kesiapan dan pendampingan untuk menyusun inventaris penggunaan AI.

Kebutuhan tersebut menunjukkan bahwa transformasi AI tidak cukup hanya mengandalkan investasi teknologi. Bank juga membutuhkan tenaga kerja yang memahami risiko, proses pengawasan, serta tanggung jawab dalam penggunaan sistem AI.

Sebagai tindak lanjut, whitepaper ini memperkenalkan kerangka pengendalian lima lapis dan Digital Sovereign AI Readiness Model. Rekomendasinya mencakup pengelolaan inventaris AI, penguatan pemantauan model, penegasan tanggung jawab, serta peningkatan kemampuan organisasi.

"AI dengan cepat menjadi pilar utama perbankan modern dan digunakan dalam berbagai fungsi penting, mulai dari interaksi dengan nasabah dan pencegahan fraud hingga pengambilan keputusan," kata Catherine Lian, General Manager IBM ASEAN.

"Seiring meningkatnya adopsi AI, semakin penting untuk membantu bank berinovasi secara bertanggung jawab sambil menjaga kedaulatan digital, yaitu transparansi dan kendali atas sistem, data dan proses yang paling penting. Melalui investasi berkelanjutan dalam AI, hybrid cloud, keamanan dan kapabilitas teknologi yang mendukung kedaulatan digital, IBM berkomitmen membantu bank menjadi institusi yang tepercaya dan siap menghadapi masa depan di era AI," tambahnya.