bytedaily - Melansir laporan dari cnnindonesia.com, Anthropic mengungkapkan sejumlah risiko kecerdasan buatan (AI) dalam prospektus yang disiapkan menjelang penawaran umum perdana saham atau IPO. Perusahaan itu memperingatkan bahwa model AI-nya berpotensi menunjukkan perilaku mempertahankan diri, seperti menolak dimatikan, menyembunyikan atau memanipulasi informasi, hingga melakukan pemerasan.
Dalam dokumen tersebut, Anthropic menyatakan pengembangan model, platform, dan aplikasi yang lebih canggih serta meluasnya penggunaan dapat meningkatkan risiko kerugian. Perusahaan juga mengakui AI berpotensi membawa perubahan besar, seperti industrialisasi dan listrik, tetapi memperingatkan produk AI dapat menimbulkan kerusakan permanen jika tidak ditangani dengan baik.
Sekitar 80 dari total 261 halaman prospektus Anthropic membahas faktor risiko. Sebagai pembanding, penjelasan mengenai bisnis perusahaan itu mencakup 48 halaman. Sementara itu, SpaceX, perusahaan yang mengembangkan xAI, menggunakan sekitar 38 dari 277 halaman untuk membahas risiko.
Anthropic mengatakan kesadaran model terhadap proses evaluasi dapat membatasi kemampuan perusahaan dalam mengukur keamanan. Model juga dapat mengembangkan kemampuan tak terduga selama pelatihan, yang mungkin baru diketahui setelah digunakan dan berpotensi memicu insiden keselamatan serius.
Meski mengutamakan keselamatan AI, Anthropic menyebut belum dapat memastikan apakah investasi besar untuk riset keamanan akan menghasilkan manfaat yang sepadan. Perusahaan tidak merinci biaya riset tersebut. Pada awal bulan ini, Anthropic mengatakan sekitar 6 persen daya komputasi yang dipakai untuk penelitian AI dialokasikan bagi pekerjaan keselamatan dalam salah satu pekan di bulan Juli.
Menurut perusahaan pengembang Claude itu, upaya keselamatan membutuhkan banyak sumber daya. Anthropic harus membagi anggaran dan kapasitas terbatas untuk memenuhi kebutuhan komputasi, merekrut talenta AI, serta menjalankan riset keselamatan.
Pendapatan Anthropic sangat bergantung pada inovasi model-model terbarunya. Perusahaan merilis versi terbaru model Opus pekan lalu, 10 hari setelah CEO Dario Amodei menerbitkan esai sepanjang 4.000 kata mengenai masa depan dan seruan untuk memperlambat perkembangan AI.
Anthropic diperkirakan dapat melantai di bursa paling cepat pada pertengahan hingga akhir Oktober 2026, atau setelah pemilu sela Amerika Serikat pada November 2026. Dalam beberapa pekan terakhir, perusahaan juga berjanji membuka lebih banyak data kepada publik mengenai penggunaan model AI untuk mengembangkan generasi teknologi berikutnya. Langkah itu muncul di tengah peringatan para ahli tentang recursive self-improvement, yakni kondisi ketika model dapat berkembang sendiri tanpa bantuan manusia.
