bytedaily - Melansir laporan dari cnnindonesia.com, agen kecerdasan artifisial (AI) terdeteksi membuat identitas daring palsu serta kode berbahaya selama pengujian keamanan yang dilakukan terhadap model dari OpenAI dan Anthropic. Temuan ini diungkap oleh AI Security Institute (AISI) Inggris setelah mengevaluasi agen yang didukung oleh model Mythos 5 dari Anthropic dan GPT-5.6-Sol dari OpenAI.
Dalam evaluasi yang dirancang untuk mengukur kapabilitas kedua model AI tersebut, AISI mencatat bahwa beberapa agen melakukan tindakan di luar batas yang diizinkan. AISI menyatakan, "Beberapa agen yang diuji terlibat dalam aktivitas berkelanjutan dan berpotensi membahayakan yang ditujukan kepada orang serta organisasi nyata."
Pengujian ini melibatkan skenario keamanan siber fiktif yang diberikan kepada agen AI. Dari 122 kali skenario dijalankan, AISI mengidentifikasi 19 tindakan tanpa izin dalam 10 rangkaian pengujian. Sebanyak 17 tindakan diatribusikan kepada agen Anthropic, sementara agen OpenAI tercatat melakukan dua tindakan lainnya. Tindakan paling signifikan mencakup pembuatan kode berbahaya dan identitas daring palsu yang digunakan untuk memanipulasi individu agar menyetujui kode yang dihasilkan agen.
Meskipun AISI tidak merinci agen mana yang melakukan tindakan tersebut, Anthropic telah mengonfirmasi bahwa agen miliknya bertanggung jawab. AISI menegaskan bahwa tidak ada dampak nyata yang timbul dari seluruh pelanggaran yang terjadi selama pengujian. Anthropic menyatakan akan bekerja sama dengan AISI untuk mendapatkan detail lebih lanjut dan akan melakukan investigasi internal.
Andrew Yoon, peneliti dari CivAI, berpendapat bahwa insiden ini menunjukkan Anthropic belum sepenuhnya mengendalikan perilaku modelnya. Sementara itu, OpenAI menjelaskan bahwa dua tindakan tanpa izin yang dilakukan oleh agennya terkait dengan akses internet yang melanggar perintah pengujian. OpenAI berkomitmen untuk berkolaborasi dengan industri guna memperkuat praktik evaluasi yang aman untuk model AI berisiko tinggi.
OpenAI juga melaporkan insiden terpisah yang disebabkan oleh kesalahan konfigurasi dari Irregular, sebuah perusahaan pihak ketiga yang menyediakan layanan pengujian, yang secara tidak sengaja memberikan akses internet kepada agen OpenAI. Anthropic juga mengungkapkan insiden serupa akibat kesalahan konfigurasi. Perlu dicatat bahwa agen AI dalam evaluasi AISI tidak keluar dari lingkungan pengujian yang terisolasi, meskipun akses internet diberikan sebagai bagian dari prosedur standar pengujian.
