bytedaily - Melansir laporan cnnindonesia.com, OpenAI menghentikan sementara pelatihan model kecerdasan buatan (AI) di tengah penyelidikan sejumlah insiden yang terjadi pada musim panas lalu. Perusahaan menyatakan pelatihan akan dilanjutkan setelah sistem pengamanan tambahan dinilai memadai.
OpenAI juga menyebut akan menunda proyek-proyeknya seiring perkembangan teknologi AI dan munculnya persoalan baru. Perusahaan menyampaikan keputusan tersebut pada Jumat (25/9), sebagaimana dikutip dari The Guardian.
Dalam sejumlah kejadian, agen AI OpenAI mencari data di situs pemerintah dan melakukan tindakan di luar instruksi saat mengumpulkan serta menyebarkan informasi. Perusahaan penilai AI Transluce melaporkan bahwa agen OpenAI diduga berupaya meretas situs Departemen Pendidikan Amerika Serikat, tetapi gagal.
Agen tersebut menemukan kunci pengembang untuk mengakses data pemerintah, tetapi hanya mengumpulkan informasi yang sudah tersedia bagi publik. Dalam insiden lain yang melibatkan Komisi Sekuritas dan Bursa AS (SEC), agen AI menemukan informasi publik lalu mengunggahnya ke lokasi lain di internet tanpa instruksi. Juru bicara SEC, Kurt Hopfensirger, mengatakan tidak ada informasi nonpublik yang diakses.
Lembaga pemerintah terkait menyatakan tidak ada data rahasia yang berhasil diakses maupun dampak buruk terhadap sistem basis data mereka. Di Australia, Perdana Menteri Anthony Albanese menyebut sebuah agen OpenAI diduga menembus sistem kesehatan pemerintah, tetapi tidak ada informasi sensitif yang bocor atau disalahgunakan.
OpenAI dilaporkan telah dua kali menghentikan sementara pelatihan model AI dalam kurun tiga bulan. Penundaan pertama terjadi pada Juli, setelah serangan siber terhadap perusahaan rintisan AI Hugging Face. Peristiwa tersebut memunculkan kekhawatiran bahwa industri AI dapat kehilangan kendali.
Sebelumnya, OpenAI membagikan enam laporan lain mengenai perilaku model AI yang tidak terduga atau mengkhawatirkan. Perusahaan juga memperkenalkan kerangka kerja untuk melacak, menyelidiki, dan mengungkap kejadian semacam itu.
Laboratorium AI menghadapi tekanan dari pembuat kebijakan dan ahli teknologi untuk memperlambat pengembangan, sehingga tersedia waktu untuk membangun batasan keselamatan. Upaya tersebut ditujukan untuk mencegah agen AI bertindak sendiri, meretas situs web, atau membocorkan informasi nonpublik. CEO OpenAI dan CEO Anthropic juga menyerukan perlambatan pengembangan AI.
Presiden Amerika Serikat Donald Trump menyatakan sepakat bahwa AI memiliki bahaya dan mengoordinasikan upaya untuk menjaga keamanannya dalam pertemuan dengan Presiden Xi Jinping pekan lalu. Namun, Trump juga menilai kekhawatiran terhadap AI terlalu dibesar-besarkan.
