Daftar Isi
Beberapa peneliti di divisi kecerdasan buatan Google DeepMind memilih mengundurkan diri dari perusahaan. Langkah tersebut diambil sebagai bentuk penolakan terhadap pemanfaatan teknologi AI yang mereka kembangkan untuk mendukung operasi militer.
Alasan Insinyur DeepMind Mengundurkan Diri
Salah satu tenaga ahli riset asal Inggris, Sofia Ligouri, resmi mengakhiri masa kerjanya di Google DeepMind pada pekan lalu. Pengunduran diri yang dilakukan setelah tiga tahun bekerja ini dipicu oleh kecemasannya terhadap perluasan kerja sama korporasi dengan militer Amerika Serikat (AS) dan Israel, sebagaimana dilaporkan CNN Indonesia dari wawancara BBC pada Kamis (22/10).
Ligouri menilai kebijakan perusahaan tidak lagi sejalan dengan nilai etika yang mengagungkan pengawasan manusia serta penyelarasan terhadap hukum internasional dan hak asasi manusia. “Menyadari bahwa perusahaan tempat saya bekerja semakin mendorong penggunaan sistem AI dalam operasi militer membuat saya merasa malu bekerja di Google,” ungkap Ligouri kepada BBC.
Ia menuturkan bahwa arah kebijakan terbaru ini mengikis kepercayaannya terhadap prinsip etika korporasi. “Saya tidak setuju dengan arah ini. Hal tersebut membuat saya kehilangan kepercayaan bahwa perusahaan saya benar-benar berpegang pada nilai-nilai etika yang selama ini mereka nyatakan,” tuturnya.
Kekhawatiran serupa membuat peneliti AI lain di Google DeepMind, Andreas Krisch, mengundurkan diri pada awal bulan ini. Krisch menilai mekanisme tata kelola dan pengawasan di internal Google belum memadai untuk memastikan penerapan kecerdasan buatan secara bertanggung jawab dalam lingkungan militer yang rahasia. Ia juga berpendapat bahwa sistem AI milik Google saat ini belum cukup aman untuk pengembangan kecerdasan super di masa depan.
“Google tampaknya tidak memiliki hak untuk mengendalikan atau memveto cara Pentagon menggunakan AI mereka. Google juga tampaknya memiliki akses informasi yang terbatas mengenai bagaimana teknologi tersebut diterapkan,” jelas Krisch.
Sejumlah pekerja juga mengaku enggan berbicara terbuka karena adanya Klausul kontrak yang melarang kritik terhadap korporasi. Meski demikian, Ligouri memilih tetap bersuara. “Pada prinsipnya, saya tidak diizinkan untuk mengkritik Google seumur hidup saya. Karena saya percaya hal-hal seperti ini perlu diketahui. Saya juga berpikir bahwa membicarakan fakta bukanlah tindakan mengkritik,” tegas Ligouri. Ia menambahkan bahwa banyak staf merasa diawasi dan takut karier mereka terancam jika menyatakan penolakan.
Respons Google dan Perluasan Kontrak Pentagon
Menanggapi aksi pengunduran diri ini, juru bicara Google menjelaskan bahwa kemitraan dengan sektor publik di berbagai belahan dunia selalu melewati proses peninjauan secara konsisten. Langkah tersebut diklaim tetap tunduk pada kebijakan penggunaan serta prinsip etika AI korporasi.
“Kami juga memiliki saluran khusus bagi karyawan untuk menyampaikan kekhawatiran dengan aman, mulai dari masalah etika bisnis hingga pelanggaran. Kami juga menerapkan kebijakan tempat kerja yang ketat untuk mencegah segala bentuk tindakan balasan terhadap karyawan,” kata juru bicara Google kepada BBC.
Pada awal tahun ini, Google bersama beberapa perusahaan teknologi papan atas menandatangani kesepakatan dengan Pentagon untuk menyediakan akses teknologi AI di lingkungan militer yang dirahasiakan. Ketentuan tersebut membolehkan penggunaan model AI Google untuk seluruh tujuan pemerintah yang sah menurut hukum, namun melarang keras penerapannya pada pengawasan massal sipil dalam negeri serta pengoperasian senjata otonom tanpa kendali manusia.
Pemerintah AS di bawah kepemimpinan Presiden Donald Trump melalui Menteri Pertahanan Pete Hegseth menjadikan integrasi AI sebagai prioritas utama guna menjadikan militer AS berorientasi AI. Selain Google, perusahaan lain yang terlibat dalam kesepakatan serupa mencakup OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia, dan Reflection untuk mendukung logistik, perencanaan, hingga operasi di medan tempur.
Risiko Penggunaan AI dalam Medan Tempur
Meningkatnya porsi kecerdasan buatan di sektor pertahanan menuai kritik dari para pakar. Mantan kepala tim Geopolitik OpenAI, Sarah Shoker, memperingatkan bahaya pengurangan durasi pengambilan keputusan yang dipicu oleh pemrosesan AI yang terlampau cepat dibanding kemampuan manusia.
“AI memangkas waktu yang dimiliki seorang operator untuk mengambil keputusan karena AI bekerja jauh lebih cepat daripada manusia. Hal ini sangat berisiko, terutama dalam situasi yang penuh tekanan,” kata Sarah.
Menurut Sarah, kondisi tersebut menyulitkan verifikasi manual. “Ketika ada ratusan terget yang dipilih oleh AI dan waktu yang tersedia sangat singkat, hampir mustahil bagi operator manusia untuk memeriksa hasil yang diberikan oleh AI secara menyeluruh dan memastikan tidak ada kesalahan,” tambahnya.
Saat ini, Pentagon telah mengoperasikan sistem Maven Smart System yang dikembangkan oleh Palantir untuk mengolah data intelijen dan menentukan sasaran tembak. Mantan direktur Project Maven, Letnan Jenderal Purnawirawan Jack Shanahan, mengamati adanya kecenderungan untuk bergerak secepat mungkin dalam pengadopsian teknologi ini, meskipun berisiko mengabaikan kedisiplinan pengujian.
Pihak Pentagon menegaskan bahwa penggunaan teknologi ini tetap krusial dalam pertempuran modern. Pejabat tinggi Pentagon, Emil Michael, menyatakan bahwa kecepatan merupakan faktor utama yang menentukan kemenangan pada era kecerdasan buatan.
