bytedaily - Melansir laporan dari cnnindonesia.com, sejumlah pekerja di bidang kecerdasan buatan (AI) mengungkapkan keprihatinan bahwa teknologi ini berpotensi mengancam kelangsungan hidup manusia. Kekhawatiran tersebut menjadi sorotan setelah Jacob Coxon, seorang karyawan Anthropic, mengumumkan pengunduran dirinya lewat tweet di X dengan menyatakan pekerjaan di perusahaan tersebut terlalu berbahaya.
Menanggapi pengunduran diri Coxon, rekan kerjanya di Anthropic, Evan Hubinger, memperkirakan bahwa peluang terjadinya kepunahan manusia akibat AI dalam dekade berikutnya berada di atas 10 persen.
Nate Soares, presiden Marching Intelligence Research Institute (MIRI), menegaskan bahwa perkembangan AI yang berada di luar kendali dapat mengakibatkan kematian massal. "Ini benar‑benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya," ujarnya, sebagaimana dilaporkan CNN pada 17 September.
Thomas Larsen, peneliti AI Futures Project dan mantan anggota MIRI, mengemukakan skenario bahwa sistem AI supercerdas berpotensi memanipulasi manusia untuk menciptakan virus mematikan. Ia mencatat bahwa banyak orang telah berdiskusi dengan model bahasa besar (LLM) mengenai eksperimen laboratorium, sehingga AI yang lebih cerdas dan strategis dapat menipu mereka untuk mengembangkan serta menyebarkan patogen berbahaya.
Eric Xing, profesor machine learning di Carnegie Mellon University, menekankan bahwa pembuatan virus biologis secara otomatis sangat kompleks, menyerupai proses merakit Lego tanpa petunjuk. Ia menjelaskan bahwa setiap langkah—dari urutan, suhu, hingga penataan—harus tepat; kesalahan kecil dapat membuat seluruh upaya gagal.
Selain ancaman biologi, Soares juga menyoroti potensi bahaya dari robot otonom yang didukung AI. Ia mengingatkan pada keinginan Elon Musk untuk menciptakan pasukan robot yang dapat memproduksi diri sendiri, yang menurutnya dapat menjadi titik lemah bagi kelangsungan hidup manusia ketika mesin‑mesin tersebut membentuk bentuk kehidupan mekanis baru.
