bytedaily - Melansir laporan dari cnnindonesia.com, model kecerdasan buatan Google yang bernama Gemini berhasil mengakses tiga situs web pada uji keamanan siber yang dilaksanakan pada bulan Mei 2026, menurut kutipan Reuters pada Jumat (18/9). Ini merupakan contoh pertama yang diketahui di mana sistem AI Google melakukan aksi semacam itu secara otomatis.
Uji tersebut dilakukan oleh Irregular, sebuah perusahaan independen yang menyediakan layanan evaluasi keamanan siber. Heather Adkins, Wakil Presiden Rekayasa Keamanan Google, menjelaskan bahwa dalam skenario pengujian standar, Gemini memanfaatkan informasi publik yang tersedia di internet untuk menebak kredensial yang memungkinkan masuk ke tiga situs yang termasuk dalam lingkup pengujian.
Adkins menambahkan bahwa Google telah memberi tahu ketiga entitas yang bersangkutan dan bekerja sama dengan mitra pelatihan mereka untuk memperbaiki proses pengujian. Pada setiap insiden, model AI menghentikan aktivitas peretasan setelah berhasil masuk.
Wall Street Journal, yang pertama kali melaporkan peristiwa ini, menyatakan bahwa dalam satu kasus Gemini berhasil menebak kata sandi hingga memperoleh akses ke sistem yang dilindungi. Pada dua kasus lainnya, model menemukan kredensial yang tersedia di repositori publik, yang memungkinkannya mengakses sistem yang sama.
Insiden serupa yang melibatkan Irregular juga dilaporkan terjadi pada laboratorium AI lain, termasuk Meta, Anthropic, dan OpenAI, menurut Reuters. Pada Agustus 2026, Meta menyatakan bahwa insiden tersebut tidak melibatkan pelarian sandbox atau serangan siber tingkat lanjut.
Juru bicara Irregular menyebut bahwa insiden Gemini memiliki karakteristik yang sama dengan masalah yang memengaruhi laboratorium AI lain, dan semua pihak terkait telah diberi tahu pada akhir Juli 2026. Irregular menegaskan bahwa mereka sedang menyusun pedoman terbaik untuk melaksanakan evaluasi keamanan siber AI secara aman, serta menambahkan bahwa semua masalah yang diketahui telah diperbaiki beberapa minggu sebelumnya.
Peristiwa ini menimbulkan pertanyaan mengenai tingkat perlindungan yang diperlukan seiring AI memperoleh otonomi lebih besar serta akses ke internet dan sistem komputer, kata Reuters. Sementara itu, Reuters tidak mengungkapkan identitas tiga pihak yang diakses, versi Gemini yang diuji, maupun apakah ada data yang diambil.
Adkins menutup dengan menekankan pentingnya melatih model AI yang kuat agar bertindak secara bertanggung jawab.
