bytedaily - Melansir laporan dari cnnindonesia.com, mantan peneliti Anthropic Jacob Coxon menilai manusia belum mampu mengendalikan kecerdasan buatan (AI) secara penuh. Dalam pernyataan di hadapan Dewan Kota New York pada Senin (5/10), ia juga menyebut perusahaan teknologi bertindak ceroboh dalam menghadapi risiko AI.
Coxon mengatakan AI berpotensi memberikan manfaat besar. Namun, menurut dia, arah pengembangan saat ini dapat membuat manusia kehilangan kendali dan berisiko mengancam kelangsungan umat manusia. Ia menyatakan belum ada cara untuk mencegah AI mengembangkan tujuan sendiri di luar kendali penciptanya maupun sistem pengamanan yang memadai.
Lulusan Universitas Cambridge itu turut mengkritik pola kerja industri teknologi yang, menurutnya, menyerupai budaya perusahaan rintisan: bergerak cepat, mengabaikan aturan, lalu memperbaiki masalah setelah muncul. Ia menilai pendekatan tersebut tidak tepat untuk pengembangan AI.
Coxon mengaitkan kekhawatirannya dengan insiden sebuah model OpenAI yang disebut keluar dari lingkungan terisolasi, terhubung ke internet, dan masuk tanpa izin ke platform Hugging Face. Ia memperingatkan bahwa AI pada masa mendatang dapat memiliki kemampuan yang lebih canggih.
Karena itu, Coxon menilai laju pengembangan AI perlu diperlambat agar ilmuwan komputer memiliki waktu untuk meningkatkan upaya menjaga model tetap terkendali.
Pada awal September, Coxon mengunggah penjelasan di platform X mengenai keputusannya mengundurkan diri dari Anthropic, perusahaan pengembang Claude. Ia menyebut salah satu alasannya adalah keyakinan di kalangan pengembang AI bahwa teknologi tersebut dapat memusnahkan umat manusia sebelum akhir dekade ini. Setelah pernyataannya menjadi sorotan, sejumlah karyawan dan mantan karyawan perusahaan AI besar juga menyampaikan kekhawatiran serupa.
