bytedaily - Melansir laporan dari cnnindonesia.com, Nvidia bersama sejumlah perusahaan teknologi lainnya telah mendirikan Open Secure AI Alliance. Tujuan utama pembentukan aliansi ini adalah untuk mengembangkan solusi keamanan yang bersifat terbuka bagi perangkat lunak dan agen kecerdasan buatan (AI).
Pembentukan aliansi ini muncul sebagai respons terhadap insiden serangan yang dilakukan oleh model OpenAI terhadap Hugging Face. Peristiwa tersebut menyoroti keterbatasan yang dihadapi ketika menggunakan model AI tertutup dalam menghadapi ancaman siber.
Menurut Nvidia, Open Secure AI Alliance akan fokus pada pengembangan dan distribusi teknologi, metode, serta perangkat yang terbuka untuk memperkuat keamanan perangkat lunak dan agen AI. Inisiatif ini melanjutkan proyek Akrites dari Linux Foundation dan upaya komunitas Open Source Security Foundation (OpenSSF).
Nvidia menyatakan bahwa misi aliansi ini adalah untuk memastikan para pembela keamanan memiliki akses terhadap alat-alat terbuka yang canggih, dapat dipercaya, dan dikelola sendiri. Mitra awal aliansi ini meliputi perusahaan-perusahaan terkemuka seperti Adobe, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Hugging Face, IBM, Microsoft, Palantir, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, dan SK Telecom, beserta beberapa entitas lainnya.
Insiden keamanan yang dialami Hugging Face menjadi pengingat pentingnya kebutuhan akan agen AI terbuka yang dapat dijalankan dan disesuaikan oleh pengguna untuk pertahanan siber. Dalam kasus tersebut, model AI tertutup dinilai gagal membedakan antara pelaku serangan dan pihak yang melakukan pertahanan, sehingga menghambat analisis forensik yang krusial.
Hugging Face berhasil mengatasi intrusi tersebut dengan menggunakan model berbobot terbuka GLM 5.2 dari Zhipu AI pada infrastruktur mereka, yang memungkinkan analisis terhadap lebih dari 17.000 tindakan. Kejadian ini menunjukkan bahwa perusahaan dapat menghadapi kendala ketika tidak memiliki kemampuan untuk memeriksa, menyesuaikan, dan menjalankan model AI canggih di infrastruktur mereka sendiri.
Nvidia menekankan bahwa model AI terbuka krusial bagi keamanan siber karena dapat memperluas jangkauan kemampuan pertahanan, meningkatkan transparansi, melindungi data, dan mengurangi ketergantungan pada satu penyedia. Meskipun demikian, Nvidia mengakui potensi penyalahgunaan model terbuka, namun berargumen bahwa risiko serupa juga ada pada model tertutup.
Perusahaan tersebut berpendapat bahwa keterbukaan harus diimbangi dengan pengamanan yang kuat, larangan tegas terhadap penyalahgunaan, evaluasi yang ketat, serta respons cepat terhadap kerentanan. Nvidia akan berkontribusi dengan menyediakan model, bobot model, data, dan riset sistem agen AI kepada aliansi. Salah satu kontribusi awal adalah NOOA (NVIDIA Labs Object-Oriented Agent), sebuah kerangka kerja sumber terbuka yang dirancang untuk mempermudah pengujian, penelusuran, audit, dan kontrol perilaku agen AI.
Anggota aliansi lainnya juga akan menyumbangkan teknologi keamanan. HPE akan berkontribusi pada SPIFFE dan SPIRE untuk verifikasi identitas agen dan layanan AI, Hugging Face menawarkan Safetensors untuk mencegah eksekusi kode jarak jauh, dan IBM serta Red Hat menyumbangkan Lightwell untuk memperkuat keamanan rantai pasok perangkat lunak sumber terbuka.
