bytedaily - Melansir laporan dari cnnindonesia.com, mantan peneliti Anthropic sekaligus mantan peneliti OpenAI, Jacob Coxon, mengungkapkan keprihatinannya melalui sebuah unggahan di X pada 9 September. Ia menyatakan bahwa ia meninggalkan Anthropic karena khawatir perusahaan tersebut serta OpenAI sedang mengancam keselamatan umat manusia dengan pengembangan kecerdasan buatan yang cepat.
Coxon menegaskan bahwa AI berpotensi menimbulkan kepunahan manusia sebelum akhir dekade ini. Dalam cuitannya, ia memperingatkan agar tidak meremehkan kemampuan teknologi tersebut, yang diproyeksikan dapat melampaui kecerdasan manusia, meretas sistem apa pun, serta menguasai sumber daya nyata dalam waktu dekat.
Unggahan tersebut menjadi viral; pada 10 September, postingan Jacob telah dilihat sekitar 136,7 juta kali di platform X. Pernyataan ini memicu kembali perdebatan di Silicon Valley mengenai batasan pengembangan AI yang aman, sementara sejumlah perusahaan AI, termasuk Anthropic dan OpenAI, terus meluncurkan model-model yang semakin canggih.
Jacob juga menyoroti bahaya "recursive self‑improvement", yakni kemampuan sistem AI untuk merancang dan mengembangkan generasi berikutnya tanpa intervensi manusia. Meskipun skenario tersebut belum terwujud, para peneliti mengingatkan bahwa hal ini dapat mengurangi kontrol manusia atas sistem AI.
Evan Hubinger, kepala tim penyelarasan di Anthropic, mendukung pernyataan Jacob dengan menyatakan bahwa peluang AI menyebabkan kepunahan manusia berada di atas 10 persen dalam sepuluh tahun ke depan. Ia menambahkan bahwa Anthropic berupaya keras, namun belum memiliki rencana konkret untuk mengatasi masalah penyelarasan superintelligence.
Kekhawatiran serupa telah muncul sebelumnya. Pada tahun 2023, tokoh-tokoh terkemuka dalam bidang AI, termasuk CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei, menandatangani pernyataan bersama yang menekankan pentingnya menanggulangi risiko kepunahan akibat AI setara dengan ancaman pandemi atau perang nuklir. Di kalangan akademisi, istilah p(doom) kini dipakai untuk mengukur probabilitas skenario terburuk yang terkait dengan kemajuan AI.
