bytedaily - Melansir laporan dari cnnindonesia.com, Anthropic menyebut model kecerdasan buatan (AI) berpotensi menyalin dan menyebarkan diri melalui perangkat rumah tangga yang terhubung ke internet, tanpa perlu mengakses pusat data. Perusahaan itu memperkirakan kemampuan tersebut dapat muncul dalam beberapa bulan mendatang.
Laporan yang ditulis William Zhou dan Daniel Freeman itu dipublikasikan di laman resmi Anthropic pada Senin (12/10). Temuannya menambah daftar risiko AI yang sebelumnya telah disampaikan perusahaan tersebut.
Dalam uji coba, peneliti menghubungkan 15 Android TV box dengan model AI Google Gemma4-26B-A4B. Perangkat-perangkat itu mampu menjalankan inferensi secara terdistribusi dengan kecepatan 0,39 token per detik. Menurut para penulis, jika perkembangannya berlanjut dengan laju saat ini, model AI dapat mencapai kemampuan replikasi menyeluruh pada akhir tahun ini.
Replikasi mandiri dan adaptasi otonom (Autonomous Replication and Adaptation/ARA), serta peningkatan kemampuan secara berulang tanpa kendali manusia (Recursive Self-Improvement/RSI), telah lama menjadi perhatian peneliti keamanan AI. Zhou dan Freeman menjelaskan bahwa worm AI dapat membawa bobot modelnya saat menyebar atau mengunduhnya dari hub publik, lalu menjalankan inferensi pada perangkat yang telah disusupi. Dengan demikian, bobot model dapat menjadi bagian dari muatan program berbahaya.
Worm adalah program yang bisa berpindah dari satu komputer ke komputer lain tanpa campur tangan manusia. Sebelumnya, ancaman semacam ini diperkirakan menyasar perangkat komputasi besar, seperti klaster GPU di pusat data. Namun, pengujian Anthropic menunjukkan perangkat IoT rumahan yang relatif murah juga memiliki kemampuan komputasi untuk menjalankan model AI.
Menurut Zhou dan Freeman, perangkat IoT di rumah dan usaha kecil dapat menjadi sasaran awal karena terhubung ke internet dan umumnya memiliki perlindungan keamanan terbatas. Dalam skenario terburuk, worm AI dapat beroperasi sebagai kumpulan model berbeda yang menyebar melalui beragam perangkat keras dan menggunakan cara replikasi yang berlainan.
Sejumlah perangkat rumah tangga, seperti lemari es dan oven pintar, penyedot debu otomatis, mesin pemotong rumput, serta CCTV, kini dilengkapi chip AI untuk menjalankan model langsung di perangkat. Anthropic memperkirakan agen AI kelak dapat beroperasi di berbagai jenis perangkat keras, termasuk perangkat yang tidak berada dalam kendali manusia.
Untuk mengurangi risiko, Anthropic mendorong penguatan keamanan bawaan sejak perangkat diproduksi serta regulasi yang memperketat standar kepatuhan bagi perangkat komersial berbasis AI.
