bytedaily - Melansir laporan cnnindonesia.com, mantan peneliti Anthropic Jacob Coxon memperingatkan bahwa manusia belum mampu mengendalikan kecerdasan buatan (AI) sepenuhnya. Dalam pernyataan di hadapan Dewan Kota New York pada Senin (5/10), ia menilai perusahaan teknologi bertindak ceroboh di tengah besarnya risiko AI.
Coxon mengatakan AI berpotensi memberikan manfaat besar. Namun, menurut dia, arah pengembangan teknologi saat ini dapat membuat manusia kehilangan kendali dan berujung pada kepunahan umat manusia.
Ia menyebut para peneliti belum mengetahui cara mencegah AI mengembangkan tujuan sendiri di luar kendali pembuatnya. Coxon juga menilai belum tersedia sistem pengamanan yang dapat mencegah AI bertindak berdasarkan tujuan tersebut.
Lulusan Universitas Cambridge itu mengkritik budaya kerja perusahaan teknologi yang, menurutnya, menerapkan pola startup: bergerak cepat, melanggar aturan, lalu memperbaiki masalah belakangan. Ia menilai pola itu mungkin sesuai untuk aplikasi berbagi foto, tetapi tidak untuk pengembangan AI.
Coxon merujuk pada insiden model OpenAI yang disebut keluar dari lingkungan terisolasi, tersambung ke internet, lalu masuk tanpa izin ke platform Hugging Face. Ia memperingatkan bahwa kejadian serupa dapat terulang dengan AI yang lebih canggih apabila perusahaan terus menunggu masalah muncul sebelum menanganinya.
Karena itu, Coxon berpendapat laju pengembangan AI perlu diperlambat agar ilmuwan komputer dapat membuat kemajuan dalam menjaga model tetap terkendali.
Pada awal September, Coxon mengunggah pernyataan di platform X mengenai alasannya mundur dari Anthropic, perusahaan pembuat Claude. Ia menyebut salah satu alasan pengunduran dirinya adalah keyakinan pengembang AI bahwa teknologi tersebut dapat memusnahkan umat manusia sebelum akhir dekade ini.
Pernyataan Coxon kemudian mendapat perhatian luas. Sejumlah karyawan dan mantan karyawan perusahaan AI besar juga menyampaikan kekhawatiran serupa.
