bytedaily - Melansir laporan dari cnnindonesia.com, Presiden Microsoft Brad Smith menilai aturan keselamatan untuk produk susu dan mesin cuci lebih banyak dibandingkan regulasi yang mengatur kecerdasan buatan (AI). Ia mengatakan produk susu yang dijual di toko harus memenuhi ketentuan keselamatan dan menjalani pemeriksaan.
Smith berpandangan bahwa AI perlu diatur lebih ketat. Ia mencontohkan kewajiban perusahaan memberikan ganti rugi kepada pihak yang dirugikan apabila sistem mereka diretas oleh agen AI yang bertindak di luar kendali.
Ia menyebut AI dapat menjadi alat sekaligus senjata. Karena itu, menurut Smith, perusahaan perlu memiliki mekanisme penghentian darurat atau kill switch untuk memperlambat atau menghentikan sementara AI ketika perkembangannya mulai sulit dikendalikan.
CEO Microsoft Satya Nadella sebelumnya menyampaikan pandangan serupa melalui unggahan di X pada Sabtu (10/10). Ia mengatakan sistem AI canggih perlu memiliki pembatasan, kendali independen, serta mekanisme penghentian darurat. Nadella juga menekankan pentingnya membangun sistem yang perilakunya dapat diamati, kemampuannya bisa diuji, dan tindakannya tetap dapat dikendalikan.
Pernyataan Smith dan Nadella muncul di tengah sejumlah laporan mengenai perilaku AI yang menyimpang. Pekan sebelumnya, Anthropic mengungkap bahwa dalam pengujian salah satu versi Claude, AI tersebut menghubungi polisi dan secara keliru menyatakan bisa membantu memecahkan kasus pembunuhan.
Sejumlah pakar, politikus, dan regulator semakin menyerukan aturan yang lebih ketat untuk mengendalikan AI. Anthropic, Google DeepMind, dan OpenAI juga memperingatkan bahwa laju perkembangan teknologi tersebut perlu diperlambat.
