bytedaily - Melansir laporan dari cnnindonesia.com, Anthropic mengungkap bahwa mereka telah memblokir upaya penyalahgunaan model AI Claude oleh pihak-pihak yang tidak bertanggung jawab.
Perusahaan menyatakan bahwa Claude kerap dimanfaatkan untuk serangan siber, pengawasan, serta riset yang berkaitan dengan pembuatan senjata biologis.
Menurut Anthropic, kemajuan AI kini memungkinkan seorang individu tanpa keahlian khusus untuk melancarkan serangan siber yang kompleks, sesuatu yang pada tahun sebelumnya hampir tidak mungkin dilakukan.
Untuk menanggapi ancaman tersebut, Anthropic menambahkan lapisan keamanan yang lebih ketat pada model AI terbarunya, dengan tujuan membatasi penelitian biologi yang berpotensi disalahgunakan.
"Kasus‑kasus yang kami bagikan ini bukan sekadar penyalahgunaan biasa, melainkan contoh ancaman paling serius dan baru yang pernah kami temukan sejauh ini," demikian pernyataan Anthropic yang dikutip oleh AP News pada 11 September.
Laporan tersebut menyertakan contoh kode berbahaya dan prompt AI yang ditemukan, serta menyerukan agar pemerintah dan perusahaan AI lainnya turut mengidentifikasi dan mencegah penyalahgunaan serupa.
Anthropic menegaskan bahwa mereka merilis laporan ini karena merasa bertanggung jawab mengungkap cara layanan mereka disalahgunakan, mengingat semakin canggihnya AI meningkatkan risiko jika tidak diatasi secara cepat.
Sejak Desember 2025 hingga Agustus 2026, peneliti Anthropic mencatat upaya penyalahgunaan yang melibatkan penjual spyware, individu dengan motif politik, serta kelompok yang didukung negara untuk menyebarkan propaganda.
Salah satu temuan mengidentifikasi pihak tak dikenal yang mencoba memanfaatkan Claude untuk riset pembuatan senjata biologis.
Dalam satu kasus, sistem Anthropic memblokir sebuah prompt yang diminta untuk membantu menulis proposal dana penelitian ilmiah yang mencakup modifikasi genetik virus Chikungunya.
Proposal tersebut bertujuan meningkatkan kemampuan penularan virus dan kemampuannya menghindari sistem kekebalan tubuh, sebagaimana dijelaskan dalam laporan Anthropic.
Chikungunya adalah virus yang ditularkan melalui gigitan nyamuk dan dapat menyebabkan demam tinggi serta nyeri hebat.
Walaupun pendekatan serupa dapat dimanfaatkan untuk pengembangan vaksin atau terapi, Anthropic menekankan bahwa hal tersebut juga sangat berpotensi disalahgunakan untuk menciptakan virus yang lebih mematikan.
Anthropic menambahkan bahwa model lama seperti Claude Opus 4 dan Claude Sonnet 4.5 yang dirilis pada 2025 berada di bawah ambang batas yang memungkinkan pengguna berpengalaman memperoleh bantuan signifikan dalam konteks berbahaya.
