Organisasi nirlaba METR dan Redwood Research pada Kamis menyatakan bahwa mereka telah melakukan peninjauan percontohan terhadap sistem pemantauan internal di OpenAI. Uji coba ini merupakan langkah terbaru perusahaan kecerdasan buatan tersebut untuk memperdalam kerja sama dengan organisasi keselamatan pihak ketiga.
Hasil Uji Coba dan Temuan Celah Keamanan
Menurut siaran pers yang dirilis, latihan tersebut dirancang bagi OpenAI untuk menguji pemberian akses tingkat mendalam kepada peneliti eksternal terhadap infrastruktur internal perusahaan. Selama periode 21 Juli hingga 11 Agustus, seorang karyawan dari masing-masing organisasi diberikan akses ke basis kode internal, dokumentasi, serta sejumlah staf teknis OpenAI.
Para karyawan tersebut didampingi selama berada di lokasi dan menggunakan perangkat khusus yang diterbitkan oleh OpenAI yang tidak pernah meninggalkan fasilitas. Melalui pengujian ini, para evaluator menemukan beberapa kerentanan baru, termasuk sebuah celah eksploitasi yang memungkinkan agen mencegah ratusan tindakan terbaru untuk dipantau.
OpenAI menyampaikan kepada METR dan Redwood bahwa mereka telah menambal kerentanan teridentifikasi yang berdampak pada pengaman produksi perusahaan. METR dan Redwood sepakat untuk hanya menerbitkan unggahan publik tingkat tinggi mengenai temuan mereka karena uji coba tersebut tidak dirancang untuk memberikan transparansi publik yang kuat tentang sistem pemantauan OpenAI. Kedua organisasi nirlaba itu telah membagikan laporan internal setebal 61 halaman kepada OpenAI dan memperkirakan akan membagikan lebih banyak rincian secara publik pada latihan mendatang.
Seorang juru bicara OpenAI menuturkan kepada CNBC dalam sebuah pernyataan bahwa kolaborasi ini dibangun di atas komitmen lama perusahaan untuk mempelopori pendekatan baru dalam pengujian pihak ketiga. Pihak OpenAI menggunakan pembelajaran dari proses ini untuk memperkuat pengaman serta membentuk kolaborasi masa depan dengan evaluator independen.
Komitmen Industri dan Kebijakan
Kepala Eksekutif OpenAI Sam Altman berjanji memberikan akses mirip karyawan kepada evaluator independen pada September lalu, setelah Kepala Eksekutif Anthropic Dario Amodei mengusulkan gagasan tersebut sebagai bagian dari rencananya memperlambat laju pengembangan kecerdasan buatan. Sejak saat itu, Anthropic telah mengumumkan perjanjian dengan berbagai organisasi seperti Accenture, METR, dan SecureBio. OpenAI menyatakan pada awal bulan ini bahwa mereka sedang aktif menyelesaikan kontrak dengan penilai keselamatan pihak ketiga.
Presiden Donald Trump, yang mengambil pendekatan ringan terhadap regulasi kecerdasan buatan, turut menunjukkan dukungan bagi penilaian pihak ketiga. Ia mendorong perusahaan-perusahaan kecerdasan buatan untuk bermitra dengan auditor atau evaluator eksternal independen sebagai bagian dari kesepakatan sukarela yang ia presentasikan di Gedung Putih. Amodei dari Anthropic menandatangani kesepakatan tersebut, bersama para eksekutif puncak dari Google, Meta, OpenAI, SpaceX, dan Nvidia.
Evaluator independen secara historis menempati posisi yang relatif tenang di industri kecerdasan buatan yang bernilai miliaran dolar. Sejumlah ahli menyampaikan kepada CNBC bahwa berbagai pertanyaan masih tetap ada mengenai bagaimana kelompok-kelompok ini akan didanai dan seperti apa bentuk struktur pelaporan mereka pada akhirnya.
METR dan Redwood menjelaskan pada Kamis bahwa mereka menguji ketahanan sistem pemantauan ketidakselarasan internal OpenAI selama uji coba tiga minggu tersebut. Dalam bidang kecerdasan buatan, penyelarasan merupakan istilah yang digunakan peneliti untuk menggambarkan apakah sebuah model berperilaku sesuai dengan kepentingan dan nilai-nilai manusia. Para evaluator menilai sistem pemantauan tersebut sebagaimana adanya pada dan sebelum 21 Juli, serta mencatat bahwa OpenAI sedang memperluas sistem itu selama latihan berlangsung.
Sumber: US Top News and Analysis
