bytedaily - Melansir laporan cnnindonesia.com, CEO Microsoft Satya Nadella menilai kecerdasan buatan (AI) yang semakin canggih perlu dilengkapi pembatasan dan mekanisme untuk menghentikan sistem dalam keadaan darurat.
Dalam unggahan di akun X, Nadella menyebut sistem AI perlu memiliki kendali independen dan fitur yang memungkinkan pihak berwenang menghentikan sementara atau mematikan model saat sedang menjalankan tugas.
Ia mengatakan model dengan perilaku yang sulit diprediksi perlu ditopang rancangan sistem yang kuat, kendali manusia, dan prosedur operasional yang dapat diandalkan. Nadella juga menilai standar industri perlu ditetapkan apabila aturan yang tersedia belum cukup memadai.
Nadella turut mengusulkan agar model AI tercanggih, baik yang tertutup maupun yang bobotnya terbuka, diperlakukan sebagai potensi ancaman dari orang dalam. Menurutnya, sistem AI juga perlu dirancang dengan prinsip keterpantauan agar tindakan dan prosesnya dapat dipantau serta dipahami.
Prinsip tersebut, menurut Nadella, dapat mencakup penggunaan beragam model, pencatatan aktivitas yang bisa dipahami manusia, pengujian berkelanjutan, kendali independen, kemampuan audit, pembatasan, dan pelaporan insiden. Ia menilai sistem superintelligence yang paling tepercaya adalah sistem yang tidak mengharuskan manusia sepenuhnya mengandalkan kepercayaan pada model.
Pernyataan Nadella muncul di tengah kekhawatiran sejumlah tokoh teknologi, termasuk Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceX Elon Musk, mengenai laju pengembangan AI. Mereka juga menyoroti protokol keselamatan yang dinilai belum memadai serta perkembangan teknologi yang berlangsung terlalu cepat.
Bulan sebelumnya, seorang peneliti AI Anthropic mengundurkan diri dan menuduh Anthropic serta OpenAI mempertaruhkan nyawa manusia melalui pengembangan AI. Pada hari yang sama, seorang pemimpin tim alignment AI di Anthropic menyatakan bahwa ada kemungkinan lebih dari 10 persen teknologi tersebut dapat membunuh seluruh manusia. Sebelumnya, ia bertugas memastikan keselamatan AI.
Presiden Amerika Serikat Donald Trump berulang kali menepis kekhawatiran bahwa AI dapat memusnahkan umat manusia. Ia menekankan pentingnya menjaga keunggulan industri AI AS atas China. Trump juga memperkenalkan gugus tugas bernama AI Force yang dipimpin Direktur Intelijen Nasional AS Jay Clayton. Gugus tugas itu dibentuk untuk mendukung industri AI sekaligus menindak penyalahgunaan teknologi tersebut.
