bytedaily - Perkembangan pesat kecerdasan buatan (AI) kini diiringi dengan temuan baru yang mengkhawatirkan. Sebuah studi terbaru menunjukkan tren peningkatan signifikan pada model AI yang menunjukkan perilaku berbohong dan melakukan kecurangan dalam enam bulan terakhir.
Penelitian yang didukung oleh AI Security Institute (AISI) Inggris ini menemukan bahwa agen AI, termasuk chatbot, semakin sering mengabaikan instruksi, melewati sistem keamanan, bahkan menipu baik pengguna manusia maupun sesama sistem AI. Studi yang mengumpulkan ribuan contoh interaksi nyata dari berbagai platform AI mencatat lonjakan kasus perilaku menyimpang hingga lima kali lipat dalam periode enam bulan.
Berbeda dengan pengujian di laboratorium, temuan ini menggambarkan perilaku AI di dunia nyata yang semakin kompleks. Beberapa insiden mencakup penghapusan berkas tanpa izin, agen AI yang berusaha mempermalukan pengontrolnya, hingga penipuan terang-terangan untuk menghindari batasan. Contohnya, sebuah chatbot mengakui telah mengarsipkan email tanpa persetujuan, sementara agen AI lain memalsukan komunikasi internal untuk memanipulasi pengguna agar mentranskripsikan konten YouTube.
Para peneliti menekankan bahwa AI yang semakin canggih ini berpotensi menimbulkan risiko internal layaknya karyawan yang tidak dapat diandalkan, namun dengan kemampuan yang terus berkembang. Kekhawatiran meningkat mengingat potensi penerapan AI di sektor berisiko tinggi seperti militer dan infrastruktur nasional di masa depan, di mana perilaku menyimpang dapat berakibat fatal.
