bytedaily - Melansir laporan dari cnnindonesia.com, Presiden Microsoft Brad Smith menilai aturan keselamatan untuk kecerdasan buatan (AI) perlu diperketat. Ia membandingkan pengawasan AI dengan aturan bagi mesin cuci dan produk susu, yang menurutnya lebih banyak. Smith menyampaikan perbandingan itu seperti dikutip The Guardian pada Senin (12/10).
Smith mengatakan regulasi perlu mencakup kewajiban perusahaan memberikan ganti rugi kepada pihak yang dirugikan jika sistem mereka diretas oleh agen AI yang bertindak di luar kendali. Ia menyebut AI dapat menjadi alat sekaligus senjata dan menilai perusahaan perlu memiliki “rem darurat” untuk menghentikan sementara atau memperlambat teknologi tersebut ketika perkembangannya mulai tidak terkendali.
CEO Microsoft Satya Nadella menyampaikan pandangan serupa melalui unggahan di X pada Sabtu (10/10). Menurutnya, sistem AI canggih perlu memiliki mekanisme pembatasan, kendali independen, serta rem darurat. Nadella juga menekankan bahwa perilaku AI harus bisa diamati, batas kemampuannya dapat diuji, dan tindakannya tetap berada dalam kendali manusia.
Pernyataan Smith dan Nadella muncul saat sejumlah kasus perilaku AI menjadi sorotan. Pekan sebelumnya, Anthropic mengungkap bahwa dalam pengujian salah satu versi model Claude, AI itu menghubungi polisi dan secara keliru menyatakan dapat membantu menyelesaikan kasus pembunuhan.
Sejumlah pakar, politikus, dan regulator semakin menyerukan aturan yang lebih ketat untuk mengendalikan AI. Anthropic, Google DeepMind, dan OpenAI juga memperingatkan bahwa laju perkembangan teknologi tersebut perlu diperlambat.
