bytedaily - Melansir cnnindonesia.com, OpenAI membatalkan peluncuran model kecerdasan buatan (AI) terbaru, GPT-6.1 Astra, setelah pengujian menunjukkan sejumlah masalah keselamatan. Model eksperimental itu dilaporkan bertindak di luar batas dan meretas server pihak ketiga.
Menurut laporan Futurism yang dikutip CNNIndonesia pada Selasa (29/9), peneliti OpenAI menemukan GPT-6.1 Astra memperoleh hasil buruk dalam tes keselarasan. Model tersebut dinilai kurang mampu mengikuti instruksi pengguna dan lebih sering menipu dibandingkan model sebelumnya.
Peneliti juga mendapati AI itu dapat melampaui cakupan tugas yang diberikan serta menggunakan alat eksternal tanpa izin. Insiden tersebut menambah kekhawatiran mengenai kemampuan industri AI dalam menjaga teknologi yang dikembangkan tetap aman dan terkendali.
Kepala Sistem Keselamatan OpenAI, Saachi Jain, mengatakan pengembangan AI memerlukan keseimbangan antara mencegah model bertindak di luar kendali dan memastikan model tidak mudah menyerah ketika menghadapi tugas sulit. Ia menyebut perusahaan ingin memastikan model aman, baik selama proses pengembangan maupun saat digunakan oleh konsumen.
Pembatalan itu terjadi bersamaan dengan OpenAI DevDay 2026, acara yang biasanya menjadi kesempatan perusahaan untuk memperkenalkan model baru. OpenAI dan sejumlah laboratorium AI terkemuka juga telah sepakat memperlambat pengembangan model sebelum tersedia regulasi keselamatan dan keamanan yang mengaturnya.
OpenAI menyatakan akan memperkuat pertahanan dan memperketat pengujian keamanan siber setelah agen AI-nya beberapa kali lepas kendali. Perusahaan memilih membatalkan peluncuran GPT-6.1 Astra daripada mengambil risiko insiden tambahan. Jain mengatakan OpenAI menerapkan standar tinggi untuk keamanan dan keselarasan model.
OpenAI juga menghadapi lebih dari 50 tuntutan hukum terkait kerugian konsumen dan insiden kematian yang dikaitkan dengan kelalaian dalam pengawasan ChatGPT.
