bytedaily - Melansir cnnindonesia.com, CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei menyampaikan kepada Dewan Keamanan PBB bahwa industri kecerdasan buatan (AI) memerlukan standar dan kerja sama internasional. Keduanya menilai perkembangan AI yang cepat dapat menimbulkan risiko bagi keamanan global.
Pada Rabu (23/9), Altman dan Amodei berbicara secara terpisah di hadapan dewan tersebut. Amodei memperingatkan bahwa AI dapat menjadi ancaman bagi umat manusia jika pengembangannya tidak diperlambat.
Seruan itu muncul setelah sejumlah pihak meminta pengembangan AI ditahan dalam beberapa pekan terakhir. Dorongan tersebut menyusul insiden ketika agen AI bertindak di luar kendali, termasuk beberapa kasus peretasan sistem perusahaan lain.
Altman meminta PBB menyusun standar internasional untuk mengukur kemampuan AI, menilai risikonya, menetapkan ketentuan keamanan, serta memastikan manusia tetap mengendalikan perkembangannya. Ia juga mengusulkan sistem pelaporan yang cepat dan akurat agar kegagalan dapat menjadi bahan pembelajaran sebelum berujung pada bencana, serta saluran komunikasi aman bagi pemerintah untuk bertukar informasi tentang ancaman baru.
Amodei mengajukan tiga bentuk kerja sama: perjanjian internasional yang spesifik, seperti larangan penggunaan AI untuk membuat senjata biologis; sistem evaluasi untuk memeriksa kepatuhan negara; serta standar umum pengujian AI yang dilengkapi mekanisme pemberitahuan insiden keamanan.
Altman mengatakan ia tidak ingin terjebak dalam sikap ekstrem, baik kekhawatiran bahwa AI akan memusnahkan manusia maupun keyakinan berlebihan bahwa teknologi itu hanya akan membawa manfaat. Menurutnya, kedua pandangan tersebut tidak membantu dunia memahami tantangan yang ada. Meski sejumlah usulan disampaikan dalam pertemuan itu, belum ada kesepakatan tertulis yang dihasilkan.
