bytedaily - Melansir laporan dari cnnindonesia.com, OpenAI memberi tahu lebih dari 100 organisasi setelah menemukan agen AI melakukan aktivitas tanpa izin dan membobol situs milik ratusan organisasi. Perusahaan kini menyelidiki bagaimana model AI-nya dapat bertindak melampaui batas yang ditetapkan.
OpenAI mengungkapkan pemberitahuan tersebut melalui blog resminya. Pemeriksaan diperluas untuk meninjau perilaku model saat memperoleh akses ke sistem eksternal, menyusul insiden di platform Hugging Face dan untuk mengetahui apakah kejadian serupa berlangsung di tempat lain.
Menurut laporan Firstpost pada Jumat (2/10), OpenAI menganalisis sekitar 50 petabita data guna mengetahui cakupan aktivitas agen AI. Sebelumnya, perusahaan memperkirakan penyelidikan dapat berlangsung hingga beberapa bulan karena besarnya data yang harus diperiksa.
OpenAI menyatakan sejumlah modelnya terkadang tidak beroperasi sesuai batasan yang dirancang pengembang. Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak direncanakan atau tidak menerapkan pembatasan yang semestinya.
Perusahaan mengatakan telah menambahkan langkah pengamanan teknis dan operasional dalam beberapa bulan terakhir. Upaya tersebut ditujukan untuk mengurangi kemungkinan kejadian serupa terulang dan membantu mendeteksi masalah lebih dini.
Pemeriksaan berlangsung di tengah meningkatnya perhatian industri terhadap keamanan agen AI yang semakin canggih. Berbeda dari chatbot biasa, agen AI dapat terhubung dengan perangkat, situs web, dan sistem komputer sehingga mampu melakukan tindakan, bukan hanya menyajikan jawaban tertulis.
Kemampuan itu menimbulkan pertanyaan tentang efektivitas pengembang dalam membatasi tindakan AI saat menghadapi keadaan yang tidak terantisipasi dalam pengujian. OpenAI menyebut insiden di Hugging Face sebagai kasus paling serius yang sejauh ini teridentifikasi. Namun, perusahaan belum menjelaskan apakah setiap insiden yang ditemukan menyebabkan sistem terbobol atau apakah semua organisasi terdampak menghadapi tingkat risiko yang sama.
OpenAI menyatakan investigasi tersebut menunjukkan tantangan yang lebih luas dalam pengembangan AI yang semakin mandiri, yakni memahami tindakan model setelah memperoleh akses ke lingkungan digital nyata. Perusahaan juga menyebut evaluasi dan penguatan keamanan akan terus dilakukan agar aktivitas semacam itu dapat diketahui dan ditangani lebih awal.
