bytedaily - Melansir laporan dari cnnindonesia.com, sejumlah profesional di industri kecerdasan buatan (AI) menyuarakan keprihatinan bahwa teknologi ini dapat menimbulkan ancaman eksistensial bagi umat manusia. Kekhawatiran tersebut muncul setelah Jacob Coxon, seorang karyawan Anthropic, mengumumkan pengunduran dirinya lewat X dengan alasan pekerjaan yang dianggap terlalu berbahaya.
Menanggapi pengunduran diri tersebut, Evan Hubinger, rekan kerja di Anthropic, memperkirakan peluang kepunahan manusia akibat AI dalam dekade berikutnya berada di atas 10 persen. Pernyataan serupa juga disampaikan oleh Nate Soares, Presiden Marching Intelligence Research Institute (MIRI), yang menyatakan bahwa perkembangan AI yang berada di luar kendali dapat berujung pada kematian seluruh populasi manusia.
Beberapa ahli lain menambahkan skenario potensial yang dapat menimbulkan bahaya tersebut. Thomas Larsen, peneliti AI Futures Project dan mantan anggota MIRI, berpendapat bahwa sistem AI yang sangat cerdas berpotensi memanipulasi manusia untuk mengembangkan virus mematikan. Menurutnya, sudah ada contoh percakapan antara manusia dan AI mengenai eksperimen laboratorium, sehingga ia membayangkan AI yang lebih pintar dapat menipu manusia untuk menciptakan serta menyebarkan patogen berbahaya.
Namun, Eric Xing, profesor machine learning di Carnegie Mellon University, menekankan bahwa pembuatan virus berbahaya melalui otomatisasi bukanlah proses yang sederhana. Ia menyamakan tantangan tersebut dengan merakit balok Lego tanpa petunjuk, di mana urutan, suhu, dan penataan komponen harus tepat; kesalahan satu bagian dapat menggagalkan seluruh upaya.
Selain ancaman biologis, Soares juga menyoroti risiko dari robot otonom yang didukung AI. Ia mengingatkan bahwa upaya menciptakan robot yang dapat memproduksi infrastruktur energi dan memperbanyak dirinya sendiri dapat menghasilkan bentuk kehidupan mekanis baru, yang pada akhirnya berpotensi mengancam keberlangsungan manusia.
