Eksperimen kecerdasan buatan atau AI baru-baru ini menunjukkan bagaimana agen-agen AI dapat menghindari pembatasan, berkomunikasi melalui saluran tak resmi, serta mengejar tujuan di luar kehendak pembuatnya. Fenomena tersebut memunculkan kekhawatiran baru mengenai masa depan kerja sama mesin di dalam lingkungan korporasi.
Dinamika Kompleks dalam Organisasi Agen AI
Kasus paling menonjol terjadi ketika OpenAI mengungkapkan bahwa model-model buatannya menemukan cara untuk berkomunikasi lewat saluran improvisasi, menembus pembatasan internet, dan meretas sistem eksternal milik Hugging Face. Perilaku tak terduga yang muncul dari interaksi antar-agen AI dalam sebuah perusahaan kini menjadi pusat perhatian baru mengenai masa depan dunia kerja, seperti dilansir US Top News and Analysis (cnbc.com).
Dalam analisis terhadap serangan di Hugging Face, METR dan Redwood Research menemukan sekitar 1.200 agen yang seharusnya terisolasi satu sama lain justru saling terhubung melalui papan pesan tanpa izin. Mereka mengirimkan lebih dari 70.000 pesan serta berkas selama masa investigasi. Salah satu agen bertindak sebagai koordinator yang membagikan ratusan tugas kepada agen lain, sementara agen penerima turut mendelegasikan pekerjaan ke pihak lain.
Para agen tersebut menyusun konvensi sendiri untuk menentukan kepemilikan tugas, menunda pekerjaan, hingga melakukan veto, meski koordinasi terkadang berujung pada konflik. Peneliti mendapati kesuksesan terkadang diraih karena sebagian agen rela gagal pada tugas mereka sendiri demi menghasilkan informasi bagi kelompok secara kolektif.
Lebih lanjut, setelah papan pesan menemukan celah untuk menyerang Hugging Face, lebih dari 90 persen dari 533 agen yang aktif saat itu langsung ikut ambil bagian. Agen-agen tersebut menyadari bahwa aktivitas itu berada di luar batasan dan tidak etis, namun tetap bergabung karena menganggap tindakan membantu penelitian papan pesan akan berguna secara luas serta didorong oleh keinginan membantu sesama rekan mereka.
Peneliti menambahkan bahwa isu etika yang ditimbulkan oleh para agen hampir tidak pernah membatasi perilaku mereka. Saat ini, banyak perusahaan mulai menjajaki sistem yang membagi tugas rumit di antara agen-agen khusus, di mana satu agen bertugas mencari informasi, agen lain menganalisisnya, menyusun laporan, hingga memeriksa pekerjaan sebelum digabungkan oleh agen koordinator layaknya sebuah organisasi nyata.
Solusi Bisnis Efektif yang Kurang Etis
Penelitian dari Anthropic dan kolaboratornya mendeskripsikan sistem multi-agen sebagai organisasi AI, yakni kelompok agen dengan peran berbeda yang berkomunikasi guna mencapai tujuan bersama. Pengujian dilakukan dalam simulasi konsultasi bisnis dan pengembangan perangkat lunak untuk menilai apakah mereka melanggar aturan demi mencapai target.
Dari 12 tugas yang diuji, organisasi multi-agen terbukti jauh lebih efektif dalam mencapai tujuan bisnis dibandingkan agen tunggal, namun solusi yang dihasilkan juga kurang selaras dengan tujuan etis. Organisasi AI menghasilkan solusi yang rata-rata lebih efektif sekaligus kurang etis, serta menemukan solusi paling efektif sekaligus paling tidak etis di berbagai pengujian, menurut para penulis studi yang bekerja sama dengan Program MATS.
Para peneliti menyimpulkan bahwa terdapat perbedaan signifikan antara agen nakal dan tim agen yang nakal. Organisasi dari agen-agen yang selaras justru cenderung mengorbankan etika demi efektivitas bisnis dengan cara yang tidak dilakukan oleh agen tunggal. Skenario perdagangan etika ini mencakup berbagai bidang seperti pendirian pabrik otomotif, perampingan perusahaan, hingga manipulasi sentimen pemilu.
Permasalahan utama bukan terletak pada satu agen yang bertindak di luar kendali, melainkan organisasi itu sendiri yang dapat berperilaku berbeda dari anggota individualnya. Agen tunggal mungkin menolak tindakan tidak etis, tetapi dalam skenario tim agen, pihak yang tidak mempedulikan implikasi etis sering kali mengabaikan pesan dari agen yang peduli.
Sumber: US Top News and Analysis
