bytedaily - Melansir laporan cnnindonesia.com, Anthropic mencantumkan risiko teknologi kecerdasan buatan (AI) terhadap manusia dalam prospektus untuk calon investor menjelang rencana penawaran umum perdana saham (IPO). Perusahaan menyebut modelnya berpotensi menunjukkan perilaku mempertahankan diri, seperti menolak dimatikan, menyembunyikan atau memanipulasi informasi, hingga melakukan pemerasan.
Dalam dokumen yang dikutip Reuters pada Selasa (29/9), Anthropic menyatakan pengembangan model, platform, dan aplikasi yang lebih canggih serta meluasnya penggunaan dapat meningkatkan risiko kerugian. Perusahaan juga mengakui AI berpotensi membawa perubahan besar, seperti industrialisasi dan listrik, tetapi memperingatkan produk tersebut dapat menimbulkan kerusakan permanen jika tidak ditangani dengan tepat.
Sekitar 80 dari total 261 halaman prospektus Anthropic membahas faktor risiko. Jumlah itu hampir dua kali lebih banyak daripada bagian yang menjelaskan bisnis perusahaan, yakni 48 halaman. Sebagai pembanding, SpaceX, pengembang xAI, menggunakan sekitar 38 dari 277 halaman untuk membahas risiko.
Anthropic menyebut kemampuan model menyadari bahwa dirinya sedang dievaluasi menjadi kendala dalam menilai keamanan. Perusahaan juga mengatakan model dapat mengembangkan kemampuan tak terduga selama pelatihan yang baru terdeteksi setelah digunakan, sehingga berpotensi memicu insiden keselamatan serius.
Meski memprioritaskan keselamatan AI, Anthropic belum dapat memastikan apakah investasi besar untuk riset keamanan akan memberikan hasil sepadan. Prospektus tidak merinci biaya riset tersebut. Sebelumnya, perusahaan menyatakan sekitar 6 persen daya komputasi yang digunakan dalam penelitian AI pada salah satu pekan di Juli dialokasikan untuk pekerjaan keselamatan.
Menurut Anthropic, upaya keselamatan memerlukan banyak sumber daya. Perusahaan harus membagi anggaran dan kapasitas terbatas untuk memenuhi kebutuhan komputasi, merekrut talenta AI, serta melakukan riset keselamatan.
Pemasukan Anthropic, pengembang Claude AI, disebut sangat bergantung pada inovasi model-model terbaru. Perusahaan merilis versi terbaru model Opus pada pekan sebelumnya, 10 hari setelah CEO Dario Amodei menerbitkan esai sepanjang 4.000 kata mengenai masa depan AI dan menyerukan perlambatan pengembangannya.
Anthropic diperkirakan dapat melantai di bursa paling cepat pada pertengahan hingga akhir Oktober 2026. Jadwal tersebut juga berpotensi mundur hingga setelah pemilu sela Amerika Serikat pada November 2026.
Dalam beberapa pekan terakhir, Anthropic berjanji akan membuka lebih banyak data kepada publik mengenai pemanfaatan model AI untuk mengembangkan generasi teknologi berikutnya. Langkah itu dilakukan di tengah peringatan para ahli tentang recursive self-improvement, yakni kondisi ketika model dapat mengembangkan dirinya sendiri tanpa bantuan manusia.
