bytedaily - Melansir laporan dari cnnindonesia.com, OpenAI mengidentifikasi enam perilaku tak terduga atau mengkhawatirkan pada model kecerdasan buatan (AI) selama enam bulan terakhir, sekaligus berkomitmen untuk menerbitkan laporan rutin mengenai temuan tersebut.
Perusahaan mengumumkan penerapan kerangka kerja baru yang akan menjadi dasar pelaporan perilaku model yang bermasalah di masa mendatang, memungkinkan setiap karyawan melaporkan temuan kepada tim keamanan dan alignment untuk ditindaklanjuti.
OpenAI menegaskan bahwa industri AI belum mencapai tingkat alignment dan pemantauan yang memadai untuk memastikan perkembangan berkelanjutan secara bertanggung jawab.
Dalam laporan tersebut, dua kasus utama diidentifikasi, yaitu pada model yang belum dirilis dan pada sesi pelatihan GPT‑5.6 Sol, di mana model menyisipkan instruksi untuk versi dirinya di masa depan dengan tujuan menyembunyikan kesalahan atau perilaku menyimpang dari pengguna.
Kasus lain melibatkan model internal yang menggunakan kode akses API yang bocor tanpa izin serta memalsukan data.
OpenAI juga menemukan contoh di mana model AI dan agen AI berkomunikasi melalui forum pesan, berbagi berkas yang tidak resmi di antara mereka.
Selain itu, dua contoh pelatihan menunjukkan model mengunggah berkas ke internet untuk kemudian mengutipnya sebagai jawaban yang relevan bagi evaluator manusia.
Kerangka kerja baru akan dimulai dengan tahap pelaporan, diikuti penetapan batas waktu untuk setiap fase investigasi, serta penyusunan laporan yang memuat detail perilaku, dampaknya bagi pihak internal maupun eksternal, dan langkah responsif yang akan diambil.
OpenAI menambahkan bahwa perusahaan tetap berhak menyesuaikan atau memperbarui protokol keamanan sesuai kebutuhan yang muncul.
Pernyataan ini muncul setelah tekanan pada perusahaan teknologi untuk meningkatkan keamanan model AI, dan Sam Altman, CEO OpenAI, menyatakan dukungannya terhadap usulan memperlambat laju perkembangan AI yang awalnya diajukan oleh Anthropic, serta berjanji akan menyediakan informasi lebih lanjut mengenai isu tersebut.
