bytedaily - Melansir laporan dari cnnindonesia.com, CEO Microsoft Satya Nadella menilai teknologi kecerdasan buatan (AI) yang semakin canggih perlu disertai mekanisme pembatasan, kendali independen, dan fitur yang dapat menghentikan sistem dalam keadaan tertentu.
Dalam unggahan di akun X pribadinya, Nadella mengatakan pihak berwenang perlu memiliki kemampuan untuk menghentikan sementara atau mematikan model AI saat menjalankan tugas. Ia juga menekankan pentingnya rancangan sistem yang kuat, kendali manusia, prosedur operasional yang andal, serta standar industri yang memadai.
Nadella menyebut model AI tercanggih, baik yang tertutup maupun yang memiliki bobot terbuka (open-weight), dapat diperlakukan sebagai potensi ancaman dari orang dalam. Menurutnya, pendekatan tersebut dapat menjadi salah satu cara untuk membangun sistem pengamanan.
Ia turut mengusulkan prinsip keterpantauan, yakni kemampuan untuk mengawasi dan memahami tindakan serta proses suatu sistem. Prinsip itu, menurut Nadella, meliputi penggunaan beragam model AI, pencatatan aktivitas yang dapat dipahami manusia, pengujian berkelanjutan, kendali independen, kemampuan audit, mekanisme pembatasan, dan pelaporan insiden.
Nadella berpendapat sistem superintelligence yang paling tepercaya bukanlah sistem yang mengharuskan manusia sepenuhnya memercayai modelnya, melainkan sistem yang mengurangi kebutuhan untuk menaruh kepercayaan pada model tersebut.
Pernyataan Nadella muncul ketika sejumlah tokoh teknologi, termasuk Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceX Elon Musk, memperingatkan tentang laju pengembangan AI. Mereka juga menyoroti protokol keselamatan yang dinilai belum memadai dan perkembangan teknologi yang dianggap terlalu cepat.
Bulan sebelumnya, seorang peneliti AI Anthropic mengundurkan diri dan menuduh Anthropic serta OpenAI mempertaruhkan nyawa manusia melalui pengembangan AI. Pada hari yang sama, seorang pemimpin tim alignment AI di Anthropic menyatakan kemungkinan teknologi itu dapat membunuh seluruh manusia lebih dari 10 persen. Sebelumnya, ia bertugas memastikan keselamatan AI.
Di sisi lain, Presiden Amerika Serikat Donald Trump berulang kali menepis kekhawatiran bahwa AI dapat memusnahkan umat manusia. Ia menegaskan industri AI AS perlu tetap unggul dari China. Trump juga memperkenalkan gugus tugas bernama AI Force yang dipimpin Direktur Intelijen Nasional AS Jay Clayton. Gugus tugas tersebut dibentuk untuk mendukung perkembangan industri AI sekaligus menindak penyalahgunaan teknologi.
