bytedaily - Melansir laporan dari siliconangle.com, Anthropic PBC telah menyuarakan keprihatinan mendalam mengenai percepatan pengembangan kecerdasan buatan (AI) dan menyerukan laboratorium AI terkemuka di dunia untuk mempertimbangkan penghentian sementara. Perusahaan tersebut memperingatkan dalam sebuah unggahan blog bahwa sistem AI semakin mendekati titik di mana mereka dapat melakukan perbaikan mandiri tanpa pengawasan manusia, sebuah ambang batas yang berpotensi menimbulkan disrupsi sosial berskala besar.
Solusi yang diusulkan Anthropic adalah kesepakatan terkoordinasi secara global untuk menjeda atau setidaknya memperlambat laju pengembangan model AI terdepan. Menurut Marina Favaro, kepala riset internal Anthropic, dan Jack Clark, kepala kebijakan, jeda tersebut akan memberikan waktu bagi masyarakat untuk beradaptasi dengan pesatnya pertumbuhan teknologi AI.
Mereka menjelaskan bahwa kemajuan model AI semakin mendekati konsep teoritis 'recursive self-improvement', yaitu kemampuan sistem AI untuk meningkatkan diri dan kapabilitasnya secara independen dengan menulis kode sendiri. Meskipun hal ini belum terjadi dan belum tentu tak terhindarkan, Anthropic memperingatkan bahwa hal itu bisa terjadi lebih cepat dari perkiraan. Jack Clark bahkan menyatakan ada indikasi bahwa beberapa model bisa mencapai kemampuan ini dalam waktu dua tahun.
“Kami percaya akan bermanfaat bagi dunia jika ada pilihan untuk memperlambat atau menjeda sementara pengembangan AI terdepan guna memungkinkan struktur sosial dan penelitian penyelarasan (alignment research) untuk mengimbangi kemajuan teknologi,” ujar mereka.
Laporan tersebut juga menyoroti posisi Anthropic yang baru saja menyelesaikan putaran pendanaan besar senilai $65 miliar dan berencana untuk melantai di bursa saham. Perusahaan ini menjadi salah satu pemain utama dalam persaingan ketat dengan pengembang ChatGPT, OpenAI. Namun, di sisi lain, Anthropic juga menghadapi tudingan dari beberapa pihak, termasuk David Sacks, seorang penasihat informal Presiden AS Donald Trump, yang menuduh perusahaan ini menjalankan agenda 'regulatory capture' dengan memanfaatkan ketakutan akan AI untuk mendorong regulasi ketat yang dapat menghambat model sumber terbuka yang lebih terjangkau demi keuntungan algoritma proprietary mereka.
Kelayakan implementasi jeda global ini masih menjadi perdebatan. Rob Enderle dari Enderle Group berpendapat bahwa penegakan jeda global untuk pengembangan AI akan sangat sulit, bahkan hampir mustahil untuk diwujudkan.
