bytedaily - Melansir laporan dari cnnindonesia.com, perkembangan pesat kecerdasan buatan (AI) menimbulkan perdebatan mengenai potensi bahaya yang dapat ditimbulkannya. Yoshua Bengio dan Geoffrey Hinton, yang kerap disebut sebagai "Bapak AI" dunia, memberikan komentar terbaru terkait isu tersebut.
Peneliti dari perusahaan pengembang AI seperti Anthropic, OpenAI, dan Google DeepMind telah menyuarakan keprihatinan mereka terhadap risiko yang mungkin muncul akibat AI. Petinggi perusahaan AI, termasuk Sam Altman, Dario Amodei, Demis Hassabis, serta Elon Musk, juga sepakat bahwa perlambatan pengembangan AI dan regulasi yang ketat diperlukan untuk mengurangi dampak negatif.
Presiden Amerika Serikat saat itu, Donald Trump, menanggapi seruan tersebut dengan menolak kekhawatiran itu sebagai hoaks dan menegaskan bahwa perkembangan AI tidak dapat dihentikan.
Bengio menanggapi pengunduran diri mantan peneliti Anthropic Jacob Coxon yang memperkirakan AI dapat membunuh umat manusia pada akhir dekade ini. Dalam unggahan di X pada 10 September, ia menekankan pentingnya perspektif tersebut untuk menjaga masyarakat tetap terinformasi dan harus ditanggapi secara serius.
Dalam blog pribadinya, Bengio menjelaskan bahwa sistem AI kini memiliki kemampuan peretasan dan persuasi yang dapat disalahgunakan melawan kepentingan manusia. Ia menekankan perlunya regulasi yang mengatur laju kemajuan AI serta standar keselamatan yang kuat dan dapat diverifikasi oleh ahli independen. "Kita harus melanjutkan penelitian untuk memantau tindakan AI, alur pikirnya, dan aktivitas dalam jaringan," tambahnya.
Geoffrey Hinton, pelopor jaringan neural dan deep learning, menyatakan bahwa ada kemungkinan setidaknya 10 persen AI dapat mengancam kelangsungan hidup manusia dalam satu dekade. Dalam wawancara dengan BBC yang dikutip CNBC pada 16 September, ia mengingatkan bahwa belum pernah ada makhluk yang lebih pintar dari manusia, sehingga prediksi tersebut sangat sulit diperkirakan.
Hinton menambahkan bahwa AI berpotensi merancang virus komputer, melancarkan serangan siber yang menghancurkan, bahkan menciptakan virus biologis berbahaya. Ia menekankan dua skenario masa depan: pertama, manusia berhasil mengatasi bahaya tersebut sebelum berada di luar kendali; kedua, bahaya tersebut tidak dapat diatasi.
Aidan Gomez, salah satu pendiri dan CEO Cohere, juga mengakui risiko perkembangan AI yang mengkhawatirkan. Ia menyebut model-model AI sebagai "senjata siber paling ampuh yang pernah dibuat" karena kemampuannya menemukan dan mengeksploitasi kerentanan dalam skala besar. Gomez, yang turut menulis makalah "Attention is All You Need" pada 2017, menyoroti pentingnya keamanan lingkungan pengujian model AI, menyatakan bahwa kelemahan pada sistem keamanan container dapat menentukan keselamatan penggunaan AI.
