bytedaily - Melansir laporan dari cnnindonesia.com, CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei menyampaikan kepada Dewan Keamanan PBB bahwa industri kecerdasan buatan (AI) memerlukan standar serta kerja sama internasional. Keduanya menilai perkembangan AI yang pesat dapat menimbulkan risiko bagi keamanan global.
Pada Rabu (23/9), Altman dan Amodei berbicara secara terpisah di hadapan dewan. Amodei memperingatkan bahwa AI berisiko mengancam umat manusia jika pengembangannya tidak diperlambat.
Pernyataan itu disampaikan setelah muncul seruan global dalam beberapa pekan terakhir untuk memperlambat pengembangan AI. Seruan tersebut berkaitan dengan sejumlah insiden ketika agen AI bertindak di luar kendali, termasuk kasus peretasan sistem perusahaan lain.
Altman mendorong PBB menyusun standar internasional untuk mengukur kemampuan AI, menilai risikonya, menetapkan standar keamanan, serta memastikan manusia tetap mengendalikan perkembangan teknologi tersebut. Ia juga mengusulkan sistem pelaporan yang cepat dan akurat agar kegagalan dapat dipelajari sebelum memicu bencana.
Selain itu, Altman menyarankan adanya saluran komunikasi yang aman bagi pemerintah untuk bertukar informasi mengenai ancaman baru. Amodei mengajukan tiga bentuk kerja sama: perjanjian global yang spesifik, seperti larangan menggunakan AI untuk membuat senjata biologis; sistem evaluasi untuk memeriksa kepatuhan negara terhadap komitmen; serta standar umum pengujian AI yang dilengkapi pemberitahuan mengenai insiden keamanan.
Amodei menyebut isu tersebut sebagai salah satu persoalan keamanan global paling penting saat ini. Sementara itu, Altman mengatakan dirinya tidak ingin terjebak pada sikap yang terlalu pesimistis maupun optimisme tanpa pertimbangan. Menurutnya, kedua posisi itu tidak membantu memahami tantangan yang dihadapi, terutama ketika teknologi juga berpotensi menyelesaikan masalah.
Namun, pertemuan PBB tersebut belum menghasilkan kesepakatan tertulis.
