Trump Memilih Self-Regulation, Apa Artinya bagi Industri AI?

Self-regulation berarti perusahaan memiliki tanggung jawab lebih besar untuk menetapkan dan menjalankan langkah keamanan terhadap teknologi yang mereka kembangkan. Dalam kesepakatan tersebut, perusahaan AI berkomitmen untuk membangun pengendalian internal untuk memantau kemampuan dan perilaku model selama proses pelatihan maupun penggunaan. Pengendalian itu juga mencakup upaya mencegah AI mengakses sistem teknologi lain dengan cara yang tidak diinginkan.

Pendekatan ini membuat perusahaan tidak hanya berperan sebagai pengembang teknologi, tetapi juga sebagai pihak yang menjalankan pengawasan awal terhadap produknya sendiri. Perusahaan perlu memiliki tim internal yang memastikan berbagai mekanisme pengawasan tersebut bekerja sebagaimana mestinya. Jika sistem menemukan masalah, perusahaan juga diharapkan dapat segera mengidentifikasi dan memperbaikinya.

Meskipun pengawasan dilakukan oleh perusahaan, kesepakatan tersebut juga meminta keterlibatan auditor atau evaluator independen dari luar. Pihak eksternal tersebut bertugas menilai apakah sistem pengendalian dan pemantauan AI yang diterapkan perusahaan benar-benar berjalan sesuai tujuan. Dengan begitu, proses pengawasan tidak sepenuhnya bergantung pada penilaian perusahaan terhadap sistemnya sendiri.

Namun, kesepakatan ini tetap berbeda dari regulasi pemerintah yang memiliki kewajiban hukum. Dokumen tersebut merupakan komitmen sukarela dan belum menetapkan mekanisme penegakan hukum seperti denda atau sanksi pemerintah bagi perusahaan yang tidak menjalankannya. Trump menyebut kesepakatan tersebut bersifat “morally binding”, tetapi sifat sukarelanya tetap menjadi bagian penting dari pendekatan yang diumumkan.

Kesepakatan tersebut juga meminta perusahaan menunjuk komite independen di bawah dewan direksi. Komite ini akan menerima dan meninjau laporan dari tim pengendalian internal serta auditor atau evaluator eksternal. Dengan mekanisme tersebut, persoalan keamanan AI tidak hanya ditangani oleh tim teknis yang mengembangkan dan memantau model.

Keterlibatan dewan direksi memberikan lapisan pengawasan tambahan di tingkat pengambilan keputusan perusahaan. Perusahaan perlu membawa hasil pemeriksaan dan persoalan yang ditemukan ke tingkat yang lebih tinggi untuk ditinjau. Kesepakatan tersebut juga menyebutkan bahwa perusahaan yang ikut serta akan bertemu secara berkala untuk mengembangkan standar dan praktik yang dapat meningkatkan keamanan sistem AI.

Kesepakatan self-regulation tersebut belum menjadi akhir dari pembahasan mengenai aturan AI di Amerika Serikat. Dokumen yang diumumkan pemerintah membuka kemungkinan adanya perkembangan lebih lanjut, sementara Trump dan sejumlah pejabat pemerintah menyatakan dukungan terhadap pendekatan yang memberikan ruang besar bagi industri untuk mengatur dirinya sendiri. Di sisi lain, sejumlah anggota Kongres telah menyerukan adanya pengamanan dan pengawasan pemerintah yang lebih formal.

Perkembangan selanjutnya akan menentukan bagaimana komitmen sukarela tersebut diterapkan oleh perusahaan AI. Jika pendekatan ini tetap menjadi dasar pengawasan, perusahaan akan memiliki peran besar dalam menentukan standar keamanan dan proses pemeriksaan teknologinya. Namun, jika pemerintah AS nantinya membuat aturan yang lebih formal, hubungan antara perusahaan teknologi dan regulator dalam mengawasi AI dapat berubah.

Trump memilih self-regulation yang menjadikan perusahaan teknologi sebagai pihak yang memiliki tanggung jawab besar dalam menjaga keamanan AI. Untuk saat ini, pendekatan tersebut menjadi pilihan pemerintah AS di tengah perkembangan teknologi yang bergerak sangat cepat. Pertanyaannya, apakah pendekatan seperti ini akan tetap cukup ketika AI memiliki kemampuan yang jauh lebih besar pada masa mendatang?