bytedaily - Melansir laporan dari cnnindonesia.com, Jacob Coxon—mantan peneliti di Anthropic serta OpenAI—menyatakan bahwa ia meninggalkan perusahaan tersebut karena khawatir AI dapat mengancam kelangsungan hidup manusia. Dalam sebuah unggahan di platform X pada Rabu, 9 September, ia menekankan bahwa teknologi AI berpotensi melampaui kemampuan manusia dalam waktu dekat, termasuk kemampuan meretas sistem, merevolusi berbagai bidang secara instan, serta menguasai sumber daya nyata.
Unggahan Coxon menjadi viral dan pada Kamis, 10 September, telah memperoleh 136,7 juta tampilan di X. Pernyataan tersebut memicu kembali perdebatan di Silicon Valley mengenai batas pengembangan AI yang aman, terutama seiring dengan upaya Anthropic dan OpenAI memperkenalkan model-model AI yang semakin canggih.
Coxon juga menyoroti kekhawatiran tentang "recursive self‑improvement," yaitu kondisi di mana sistem AI dapat merancang dan mengembangkan versi berikutnya tanpa intervensi manusia. Meskipun skenario tersebut belum terwujud, ia menilai bahwa kedua perusahaan tidak bertindak secara bertanggung jawab karena berlomba mencapai superintelligence yang mampu mengembangkan dirinya sendiri.
Evan Hubinger, pemimpin tim penyelarasan di Anthropic, mendukung pernyataan Coxon dengan mengungkapkan bahwa peluang AI menyebabkan kepunahan manusia diperkirakan lebih dari 10 % dalam dekade mendatang. Ia menambahkan bahwa Anthropic berupaya keras namun belum memiliki rencana pasti untuk menyelesaikan masalah penyelarasan superintelligence.
Kekhawatiran serupa telah muncul sebelumnya; pada tahun 2023, sejumlah tokoh terkemuka dalam bidang AI, termasuk CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei, menandatangani pernyataan bersama yang menekankan pentingnya mengatasi risiko eksistensial AI setara dengan ancaman pandemi atau perang nuklir. Di kalangan akademisi, istilah p(doom) kini digunakan untuk mengukur probabilitas skenario terburuk yang terkait dengan kemajuan AI.
