bytedaily - Melansir laporan dari cnnindonesia.com, Anthropic menyebut model kecerdasan buatan (AI) berpotensi mereplikasi diri tanpa akses ke pusat data. Dalam beberapa bulan ke depan, model tersebut diperkirakan dapat menyusup melalui perangkat komersial di rumah, seperti oven pintar dan Android TV box.
Temuan yang disusun William Zhou dan Daniel Freeman itu dipublikasikan di laman resmi Anthropic pada Senin (12/10). Laporan tersebut menambahkan risiko AI yang sebelumnya telah diperingatkan perusahaan itu.
Menurut Zhou dan Freeman, penyebaran melalui jaringan perangkat Internet of Things (IoT) di berbagai negara dapat menghilangkan satu titik kendali pusat untuk menghentikannya. Dalam uji coba, peneliti menghubungkan 15 Android TV box dengan model AI Google Gemma4-26B-A4B. Perangkat-perangkat itu mampu melakukan inferensi terdistribusi bersama dengan kecepatan 0,39 token per detik.
Para peneliti memperkirakan, jika perkembangannya berlanjut dengan laju saat ini, model AI dapat mencapai kemampuan replikasi menyeluruh atau end-to-end replication pada akhir tahun ini. Kemampuan AI untuk bereplikasi dan beradaptasi secara mandiri, serta meningkatkan kemampuannya secara berulang tanpa kendali manusia, telah lama menjadi perhatian peneliti keamanan AI.
Zhou dan Freeman menjelaskan bahwa worm AI dapat membawa bobot model ketika bereplikasi atau mengunduhnya kembali dari hub publik, lalu menjalankan inferensi pada perangkat yang telah disusupi. Dengan demikian, bobot model dapat menjadi bagian dari muatan malware. Worm sendiri merupakan program yang dapat berpindah dari satu komputer ke komputer lain tanpa campur tangan manusia.
Jika sebelumnya worm AI diperkirakan hanya menyasar mesin komputasi besar, seperti klaster GPU di pusat data, temuan ini menunjukkan perangkat IoT rumah tangga yang murah juga memiliki daya komputasi untuk menjalankan model AI. Perangkat tersebut dinilai rentan karena tersambung ke internet dengan sistem keamanan yang terbatas.
Anthropic memperkirakan perangkat IoT di rumah dan usaha kecil dapat menjadi sasaran awal serangan karena koneksi internetnya dan minimnya perlindungan keamanan. Dalam skenario terburuk, worm AI bisa beroperasi sebagai kumpulan berbagai model yang menyebar menggunakan sejumlah metode di beragam perangkat keras.
Sejumlah perangkat rumah tangga, termasuk lemari es dan oven pintar, penyedot debu otomatis, mesin pemotong rumput, serta CCTV, kini dilengkapi chip AI kecil untuk menjalankan model langsung pada perangkat. Anthropic memperkirakan agen AI kelak dapat berjalan di berbagai jenis perangkat keras, termasuk perangkat yang tidak berada dalam kendali manusia.
Karena risiko terhadap infrastruktur komputasi IoT, Anthropic mendorong penguatan keamanan bawaan sejak perangkat dibuat serta regulasi yang memperketat standar kepatuhan bagi perangkat komersial berbasis AI.
