bytedaily - Melansir laporan dari cnnindonesia.com, Anthropic mengonfirmasi bahwa mereka telah menghentikan upaya penyalahgunaan model AI Claude oleh pihak‑pihak yang tidak bertanggung jawab. Menurut perusahaan, Claude sering dimanfaatkan untuk serangan siber, kegiatan pengawasan, serta riset yang berpotensi menghasilkan senjata biologis.
Perusahaan menilai bahwa kompleksitas serangan siber kini tidak lagi memerlukan keahlian tinggi; bahkan individu biasa dapat menciptakan ancaman yang sebelumnya tidak mungkin terjadi, seiring dengan kemajuan teknologi AI.
Untuk menanggulangi hal tersebut, Anthropic menambahkan lapisan keamanan yang lebih ketat pada versi terbaru model AI mereka, dengan tujuan membatasi penelitian biologi yang berisiko disalahgunakan untuk membuat senjata mematikan.
"Kasus‑kasus yang kami paparkan bukan sekadar penyalahgunaan biasa, melainkan contoh ancaman paling serius yang pernah kami temui," demikian pernyataan Anthropic yang dikutip oleh AP News pada Jumat (11/9). Laporan tersebut menyertakan contoh kode berbahaya serta prompt AI yang berhasil diidentifikasi.
Anthropic menyerukan kepada pemerintah dan perusahaan AI lainnya untuk secara proaktif mengenali dan mencegah penyalahgunaan serupa. "Kami merilis laporan ini karena merasa bertanggung jawab mengungkap cara layanan kami disalahgunakan. Semakin canggih AI, semakin besar risikonya, kecuali pembuat AI dan pihak keamanan segera mengambil langkah pengamanan," ujar perwakilan Anthropic.
Antara Desember 2025 hingga Agustus 2026, peneliti Anthropic menemukan berbagai upaya penyalahgunaan, mulai dari penjual perangkat lunak mata‑spy, individu dengan motif politik, hingga kelompok yang didukung negara untuk menyebarkan propaganda.
Salah satu temuan menyoroti pihak yang tidak dikenal berusaha memanfaatkan Claude untuk riset pembuatan senjata biologis. Dalam satu kasus, sistem keamanan Claude memblokir prompt yang diminta untuk menulis proposal penelitian ilmiah yang mencakup modifikasi genetik virus Chikungunya agar lebih menular dan mampu menghindari sistem kekebalan tubuh.
Virus Chikungunya, yang menyebar melalui gigitan nyamuk, dapat menyebabkan demam tinggi dan nyeri hebat. Proposal tersebut meminta AI membantu merancang mutasi yang meningkatkan bahaya virus, meskipun riset serupa juga berpotensi menghasilkan vaksin atau terapi yang lebih baik.
Anthropic menegaskan bahwa meskipun model lama seperti Claude Opus 4 dan Claude Sonnet 4.5 yang dirilis pada tahun 2025 berada di bawah ambang batas yang memungkinkan pengguna berpengalaman memanfaatkan AI secara signifikan, risiko penyalahgunaan tetap ada.
