bytedaily - Dilansir dari techcrunch.com, saksi ahli teknologi AI tunggal yang dihadirkan Elon Musk dalam sidang gugatan terhadap OpenAI, Stuart Russell, mengungkapkan kekhawatirannya mengenai potensi perlombaan senjata dalam pengembangan kecerdasan buatan umum (AGI). Russell, seorang profesor ilmu komputer di University of California, Berkeley, yang telah lama mempelajari AI, dipanggil untuk memberikan latar belakang mengenai teknologi AI dan menekankan potensi bahayanya.
Dalam kesaksiannya di hadapan juri dan Hakim Yvonne Gonzalez Rogers, Russell menyatakan bahwa pengembangan AI membawa berbagai risiko, mulai dari ancaman keamanan siber hingga masalah ketidakselarasan dan sifat kompetisi yang menguntungkan pemenang tunggal dalam pengembangan AGI. Ia menekankan adanya ketegangan antara upaya mencapai AGI dan aspek keselamatan.
Kekhawatiran Russell yang lebih luas mengenai ancaman eksistensial dari AI yang tidak terkendali tidak sepenuhnya diungkapkan di pengadilan terbuka. Pengacara OpenAI mengajukan keberatan yang membuat hakim membatasi cakupan kesaksian Russell. Namun, Russell dikenal sebagai kritikus terhadap dinamika perlombaan senjata yang tercipta di antara laboratorium-laboratorium terkemuka di seluruh dunia yang bersaing untuk mencapai AGI terlebih dahulu, dan ia menyerukan agar pemerintah mengatur bidang ini dengan lebih ketat.
Pengacara OpenAI dalam pemeriksaan silang berusaha menunjukkan bahwa Russell tidak secara langsung mengevaluasi struktur korporat OpenAI atau kebijakan keselamatannya. Namun, laporan tersebut mencatat bahwa hubungan antara keserakahan perusahaan dan kekhawatiran keselamatan AI akan menjadi pertimbangan penting bagi hakim dan juri.
Disebutkan bahwa hampir semua pendiri OpenAI secara tegas telah memperingatkan tentang risiko AI, sambil juga menekankan manfaatnya, berupaya membangun AI secepat mungkin, dan merencanakan perusahaan nirlaba yang berfokus pada AI yang akan mereka kendalikan. Dari sudut pandang eksternal, timbul kesadaran bahwa OpenAI membutuhkan lebih banyak sumber daya komputasi untuk berhasil, yang hanya bisa didapatkan dari investor nirlaba. Ketakutan tim pendiri akan AGI di tangan satu organisasi mendorong mereka untuk mencari modal yang pada akhirnya memecah belah tim dan menciptakan perlombaan senjata yang terjadi saat ini, yang berujung pada gugatan ini.
Dinamika serupa juga terjadi di tingkat nasional, seperti dorongan Senator Bernie Sanders untuk undang-undang yang memberlakukan moratorium pembangunan pusat data, yang mencerminkan ketakutan AI yang diartikulasikan oleh Elon Musk, Sam Altman, Geoffrey Hinton, dan lainnya. Hodan Omaar dari Center for Data Innovation mengkritik sikap tersebut, menyatakan bahwa tidak jelas mengapa publik harus mengabaikan apa yang dikatakan para miliarder teknologi kecuali kata-kata mereka dapat digunakan untuk mengisi celah dalam argumen yang rapuh.
Sumber asli: Artikel ini disadur dari publikasi techcrunch.com.
