bytedaily - Melansir laporan dari cnnindonesia.com, Anthropic menyatakan bahwa model AI Claude sering dimanfaatkan secara tidak sah oleh pihak-pihak yang tidak bertanggung jawab, termasuk untuk serangan siber, pengawasan, dan riset yang berpotensi menghasilkan senjata biologis.
Pada Kamis, 10 September, perusahaan mengonfirmasi bahwa mereka telah menghentikan sejumlah upaya penyalahgunaan tersebut. Menurut Anthropic, kemajuan teknologi AI kini memungkinkan individu tanpa keahlian khusus untuk melakukan aksi siber yang sebelumnya sulit dilakukan.
Untuk menanggapi ancaman ini, Anthropic menambahkan lapisan keamanan yang lebih ketat pada versi terbaru model AI mereka, dengan tujuan membatasi penggunaan dalam penelitian biologi yang berisiko.
Dalam laporan yang dikutip oleh AP News pada Jumat, 11 September, perusahaan menekankan bahwa kasus-kasus yang diungkapkan merupakan contoh penyalahgunaan paling serius yang pernah mereka temui. Laporan tersebut memuat contoh kode berbahaya dan prompt AI yang ditemukan, serta menyerukan pemerintah dan pelaku AI lainnya untuk mengidentifikasi serta mencegah penyalahgunaan serupa.
Anthropic menjelaskan bahwa sejak Desember 2025 hingga Agustus 2026, tim peneliti mereka menemukan upaya penyalahgunaan oleh penjual spyware, aktor politik, hingga kelompok yang didukung negara untuk menyebarkan propaganda. Salah satu temuan mengidentifikasi pihak tak dikenal yang mencoba memanfaatkan Claude untuk riset pembuatan senjata biologis.
Salah satu contoh melibatkan sebuah proposal penelitian yang meminta AI membantu merancang mutasi pada virus Chikungunya agar lebih menular dan mampu menghindari sistem kekebalan. Meskipun riset semacam itu dapat berkontribusi pada pengembangan vaksin, Anthropic menegaskan bahwa teknologi yang sama dapat disalahgunakan untuk menciptakan ancaman yang lebih mematikan.
Anthropic mengakui bahwa meskipun model-model lama seperti Claude Opus 4 dan Claude Sonnet 4.5 yang dirilis pada tahun 2025 berada di bawah ambang batas yang memungkinkan penyalahgunaan signifikan, risiko tetap ada dan memerlukan tindakan cepat dari pembuat AI serta pihak keamanan.
