CEO Nvidia hingga Google Bertemu Presiden Trump, Apa yang Dibahas?

Salah satu poin utama kesepakatan adalah perusahaan AI perlu memiliki pengendalian internal yang kuat untuk memantau pengembangan dan penggunaan teknologinya. Pengawasan ini mencakup proses untuk mendeteksi masalah yang mungkin muncul ketika sistem AI digunakan atau dikembangkan. Dengan mekanisme tersebut, perusahaan diharapkan dapat mengetahui risiko teknologi sejak berada di dalam proses pengembangan.

Pengendalian internal juga menjadi lapisan pertama sebelum pemeriksaan dilakukan oleh pihak di luar perusahaan. Dalam penjelasan mengenai kesepakatan tersebut, pengawasan mencakup peninjauan risiko internal dan mekanisme untuk memastikan sistem AI bekerja sesuai dengan tujuan yang telah ditetapkan. Perusahaan juga berkomitmen mencegah sistem AI mengakses atau meretas sistem teknologi lain dengan cara yang tidak diinginkan.

Kesepakatan tersebut tidak hanya mengandalkan pemeriksaan dari perusahaan yang mengembangkan AI. Perusahaan juga akan bekerja sama dengan auditor atau evaluator independen untuk menilai apakah pengendalian yang diterapkan benar-benar berjalan sesuai tujuan. Langkah ini memberikan lapisan pemeriksaan tambahan di luar proses internal masing-masing perusahaan.

Pemeriksaan eksternal menjadi bagian penting karena perusahaan teknologi tidak hanya diminta menilai sistemnya sendiri. Hasil pemeriksaan tersebut kemudian akan menjadi bagian dari proses pengawasan yang lebih luas, termasuk peninjauan oleh pihak lain di dalam perusahaan. Pendekatan ini membuat pengembangan AI melibatkan beberapa lapisan kontrol, bukan hanya satu mekanisme pengawasan.

Lapisan pengawasan berikutnya melibatkan dewan direksi masing-masing perusahaan. Dewan direksi akan meninjau laporan yang berasal dari pemeriksaan internal maupun auditor eksternal untuk melihat bagaimana perusahaan menangani risiko AI. Dengan demikian, persoalan keamanan AI tidak hanya ditempatkan pada tim teknis atau pengembang.

Keterlibatan dewan direksi membuat isu keamanan AI masuk ke tingkat pengambilan keputusan perusahaan yang lebih tinggi. Dalam pertemuan tersebut, Mark Zuckerberg menjelaskan bahwa prosesnya akan mencakup peninjauan independen oleh dewan terhadap laporan dari auditor. Mekanisme tersebut menjadi bagian dari komitmen sukarela yang disepakati perusahaan-perusahaan teknologi yang hadir.

Pertemuan itu juga membahas kebutuhan terhadap pusat data yang menjadi infrastruktur penting untuk melatih dan menjalankan model AI. Trump menyatakan dukungannya terhadap pembangunan pusat data, sementara proyek-proyek tersebut menghadapi perhatian terkait kebutuhan listrik dan dampaknya terhadap masyarakat sekitar. Perusahaan teknologi disebut perlu memberikan kontribusi kepada komunitas di sekitar lokasi pembangunan.

Kebutuhan pusat data semakin besar seiring meningkatnya penggunaan model AI yang membutuhkan daya komputasi dalam jumlah besar. Karena itu, perkembangan AI tidak hanya berkaitan dengan perangkat lunak dan model yang dikembangkan perusahaan, tetapi juga dengan infrastruktur fisik yang menopangnya. Pembahasan mengenai pusat data menunjukkan bahwa keamanan AI berjalan bersamaan dengan kebutuhan memperluas kapasitas komputasi.

Pertemuan Trump dengan para pemimpin perusahaan teknologi menunjukkan bahwa perkembangan AI mulai mendapat perhatian lebih besar dari pemerintah dan industri. Kesepakatan yang dibuat dalam pertemuan tersebut masih bersifat sukarela sehingga pelaksanaannya akan bergantung pada komitmen masing-masing perusahaan. Ke depannya, perkembangan kesepakatan ini akan menarik untuk diperhatikan, terutama jika pemerintah AS mempertimbangkan aturan yang lebih formal.