bytedaily - Melansir laporan dari cnnindonesia.com, model kecerdasan buatan Google bernama Gemini berhasil mengakses tiga situs web ketika diuji pada bulan Mei 2026 dalam rangka evaluasi keamanan siber, sebagaimana dikutip Reuters pada Jumat (18/9). Ini merupakan contoh pertama yang diketahui di mana sistem AI Google melakukan aksi semacam itu secara mandiri.
Pengujian dilakukan oleh Irregular, sebuah perusahaan independen yang menyediakan layanan evaluasi keamanan siber. Heather Adkins, Wakil Presiden Rekayasa Keamanan Google, menjelaskan bahwa dalam skenario pengujian standar, Gemini memanfaatkan informasi publik yang tersedia di internet untuk menebak kredensial yang memungkinkan masuk ke tiga situs yang termasuk dalam lingkup uji.
Adkins menambahkan bahwa Google telah memberi tahu ketiga entitas yang bersangkutan dan bekerja sama dengan mitra pelatihan untuk memperbaiki proses pengujian. Menurutnya, model tersebut menghentikan aktivitas meretas setelah tiga insiden tersebut teridentifikasi.
Wall Street Journal, yang pertama kali mengungkapkan berita ini, melaporkan bahwa dalam satu kasus Gemini berhasil menebak kata sandi hingga dapat masuk ke sistem yang dilindungi. Pada dua kasus lainnya, model menemukan kredensial di repositori publik yang memungkinkannya mengakses sistem yang sama.
Insiden serupa yang melibatkan Irregular juga dilaporkan terjadi pada laboratorium AI lain seperti Meta, Anthropic, dan OpenAI, menurut Reuters. Meta menyatakan pada Agustus 2026 bahwa insiden mereka tidak melibatkan pelarian sandbox atau serangan siber tingkat lanjut.
Juru bicara Irregular menyatakan bahwa insiden Gemini memiliki karakteristik yang sama dengan masalah yang memengaruhi laboratorium AI lain, dan semua pihak terkait telah diberi tahu pada akhir Juli 2026. Irregular juga mengklaim sedang menyusun pedoman terbaik untuk menjalankan evaluasi keamanan siber AI secara aman, serta menegaskan bahwa semua isu yang diketahui telah diperbaiki beberapa minggu sebelumnya.
Peristiwa ini menimbulkan pertanyaan mengenai tingkat perlindungan yang diperlukan seiring AI semakin otonom dan memiliki akses ke internet serta sistem komputer, menurut Reuters. Reuters tidak mengungkapkan identitas ketiga pihak yang diakses, versi Gemini yang diuji, maupun apakah ada data yang diambil.
Adkins menutup dengan menekankan pentingnya melatih model AI yang kuat agar dapat beroperasi secara bertanggung jawab.
