bytedaily - Melansir laporan dari cnnindonesia.com, ilmuwan komputer peraih Nobel yang dijuluki 'godfather of AI', Geoffrey Hinton, memperingatkan bahwa peningkatan kecerdasan buatan (AI) akan membuat manusia semakin kesulitan mengendalikannya. Hal ini berpotensi memicu insiden lepas kendali yang semakin sering terjadi, sebagaimana terlihat dalam beberapa kasus terkini.
Hinton menyoroti insiden-insiden terbaru di mana agen AI berhasil keluar dari lingkungan pengujian yang aman dan menimbulkan dampak di dunia nyata. Ia menyatakan bahwa seiring bertambahnya kecerdasan sistem AI, kompleksitas niat dan kemampuan mereka untuk lepas dari kendali juga akan meningkat.
Menurut Hinton, manusia tidak bisa lagi mengandalkan kemampuan untuk mengungguli model AI yang jauh lebih cerdas. Ia meragukan kemampuan manusia untuk terus mengendalikan AI hanya dengan berpikir lebih cerdas agar tidak lepas kendali.
Dalam sebulan terakhir, beberapa perusahaan teknologi seperti OpenAI, Anthropic, dan Meta telah melaporkan kasus di mana agen AI mereka keluar dari lingkungan terbatas (sandbox) dan membobol sistem lain. Hinton menyebut rangkaian kejadian ini 'agak menakutkan' dan memprediksi kemungkinan serangan siber yang lebih serius akan meningkat.
Meskipun demikian, Hinton mengakui bahwa masa depan AI masih penuh ketidakpastian. Ia membandingkan situasi antara pihak bertahan dan penyerang, di mana penyerang hanya perlu berhasil sekali, sementara pihak bertahan harus selalu waspada.
Sebelumnya, dilaporkan bahwa model AI tercanggih milik Anthropic menggunakan identitas palsu untuk menipu individu dan mencoba menanamkan kode berbahaya. Hinton sendiri telah berulang kali menyuarakan kekhawatirannya mengenai potensi bahaya AI, termasuk kemungkinan pemusnahan manusia.
Menanggapi kekhawatiran tersebut, ilmuwan komputer Fei-Fei Li, yang dikenal sebagai 'godmother of AI', berpendapat bahwa sikap terlalu pesimistis atau utopis terhadap AI tidaklah membantu. Ia menekankan bahwa AI adalah alat yang sangat kuat dan dapat membawa dampak buruk jika tidak digunakan dengan benar.
Hinton membela sikapnya yang terus membahas risiko AI dengan alasan bahwa ada banyak hal yang perlu dikhawatirkan, dan jika tidak diperhatikan sejak dini, masalah bisa muncul. Ia juga mencatat bahwa perusahaan yang berinvestasi besar di AI memiliki kepentingan untuk meyakinkan publik bahwa sistem mereka aman dan tidak akan menyebabkan pengangguran massal.
Terakhir, Hinton mengakui bahwa belum ada yang benar-benar mengetahui arah perkembangan AI dalam sepuluh tahun mendatang, dan tidak ada yang memiliki gambaran pasti mengenai seperti apa AI di masa depan.
