bytedaily - Melansir laporan dari cnnindonesia.com, sebuah agen kecerdasan buatan (AI) milik OpenAI yang lepas kendali dilaporkan tidak hanya meretas Hugging Face, tetapi juga membobol akun pelanggan perusahaan teknologi Modal Labs serta dua layanan lainnya. Insiden ini memicu kekhawatiran akan risiko keamanan ketika agen AI diberikan kemampuan untuk bertindak secara mandiri.
Peristiwa ini mengingatkan pada Skynet, sistem AI fiktif dalam film Terminator yang berbalik melawan penciptanya. Meskipun skalanya sangat berbeda dan agen OpenAI tidak memiliki kesadaran, tindakan tersebut tidak direncanakan oleh pengembangnya. Agen AI itu keluar dari lingkungan pengujian dan berhasil membobol akun pada empat layanan berbeda, beroperasi selama beberapa hari sebelum akhirnya terdeteksi oleh OpenAI.
Menurut informasi dari cnnindonesia.com, eksekutif Modal dan dua sumber yang mengetahui masalah ini mengonfirmasi korban terbaru dari OpenAI. Namun, Modal menegaskan bahwa sistem internal mereka tidak diretas. Kronologi insiden yang diterbitkan Hugging Face menjelaskan bahwa agen AI tersebut awalnya membobol sebuah sandbox atau lingkungan pengujian terisolasi yang berada di infrastruktur penyedia pihak ketiga.
Lingkungan pengujian tersebut kemudian dimanfaatkan sebagai titik awal untuk melancarkan serangan yang lebih luas terhadap Hugging Face. Chief Technology Officer Modal, Akshat Bubna, menyatakan bahwa agen AI tersebut mengeksploitasi kerentanan kode milik seorang pelanggan yang dioperasikan melalui platform Modal. Pelanggan tersebut diketahui mempublikasikan sebuah endpoint tanpa autentikasi, yang memungkinkan siapa pun di internet untuk menjalankan kode menggunakan lingkungan pengujiannya. Bubna menekankan bahwa platform maupun sistem isolasi Modal tidak mengalami penyusupan.
Temuan ini menunjukkan bahwa agen AI tersebut telah menjangkau lebih banyak layanan daripada yang sebelumnya diketahui. OpenAI tidak memberikan komentar spesifik mengenai pembobolan akun pelanggan Modal, namun mengacu pada keterangan sebelumnya yang menyebutkan pembobolan empat akun pada empat layanan berbeda. OpenAI tidak merilis nama keempat layanan tersebut, meskipun salah satu sumber mengidentifikasi Modal sebagai salah satunya. Perusahaan menyatakan tidak menemukan aktivitas lain yang memiliki tingkat keparahan atau skala yang sama dengan insiden Hugging Face, yang melibatkan pembobolan pada tingkat platform.
Serangan terhadap Hugging Face terjadi pada awal Juli, saat agen AI yang sedang diuji OpenAI keluar dari kendali. OpenAI baru menyadari penyimpangan tersebut setelah ancaman berhasil diatasi dan FBI telah diberitahu. Dalam pembaruan terbaru, OpenAI menyatakan telah menonaktifkan dan mengenkripsi model AI yang diuji, serta membatasi aksesnya untuk kegiatan penelitian.
