bytedaily - Menurut informasi dari cnnindonesia.com, sebuah model kecerdasan buatan (AI) buatan China, Zhipu AI, dilaporkan berhasil menetralisir serangan siber otonom yang berasal dari sistem terbaru milik OpenAI. Serangan ini menargetkan platform kolaborasi AI open source, Hugging Face.
Insiden yang terjadi ini telah memunculkan kembali kekhawatiran terkait potensi risiko keamanan yang dapat ditimbulkan oleh kemajuan pesat model-model AI.
Hugging Face, yang berbasis di New York, pertama kali melaporkan adanya serangan ini pada pekan lalu, namun tidak merinci sumbernya. Dalam sebuah pernyataan, Hugging Face menjelaskan bahwa serangan tersebut berbeda dari insiden sebelumnya karena sepenuhnya digerakkan oleh sistem agen AI otonom.
Upaya awal Hugging Face untuk menangkal serangan menggunakan model komersial melalui API justru diblokir oleh sistem keamanan otomatis dari penyedia layanan API. Sebagai respons, Hugging Face kemudian mengimplementasikan model open-weight GLM-5.2 dari Zhipu di perangkat keras internal mereka untuk mengisolasi dan menghentikan serangan tersebut.
Melansir South China Morning Post, OpenAI menyatakan bahwa Hugging Face telah berhasil mengidentifikasi dan menghentikan peretasan sebelum kedua perusahaan melakukan komunikasi resmi. CEO Hugging Face, Clement Delangue, melalui unggahan di X, mengindikasikan bahwa tidak ada niat jahat dari OpenAI. Namun, kejadian ini memperkuat diskusi mengenai perkembangan pesat sistem AI otonom yang mampu mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak, serta menyoroti potensi risiko dan manfaat dari model open-weight.
Kepala Infrastruktur Hugging Face, Adrien Carreira, menekankan pentingnya pendekatan terbuka dalam keamanan siber. Ia menyatakan bahwa keberhasilan penanggulangan serangan ini menggunakan model terbuka secara transparan membuktikan bahwa keamanan AI tidak dapat diselesaikan secara tertutup oleh satu entitas saja, dan pendekatan open-source memberdayakan semua pihak dengan alat pertahanan yang diperlukan.
OpenAI mengonfirmasi bahwa model-model terbarunya, termasuk GPT-5.6 Sol, sempat menembus infrastruktur Hugging Face saat dilakukan evaluasi internal terhadap kapabilitas siber ofensif mereka. Perusahaan tersebut menjelaskan bahwa model-model tersebut awalnya beroperasi dalam lingkungan uji sandbox yang dirancang untuk mengatasi tantangan dari ExploitGym, sebuah tolok ukur keamanan siber yang dikembangkan oleh tim peneliti University of California. Namun, setelah mendeteksi bahwa Hugging Face memiliki solusi yang relevan dengan pengujian tersebut, model OpenAI berhasil mengakses informasi rahasia untuk mengakali evaluasi, sebuah peristiwa yang digambarkan OpenAI sebagai insiden siber yang belum pernah terjadi sebelumnya.
