bytedaily - Melansir laporan dari cnnindonesia.com, OpenAI mengidentifikasi enam perilaku tak terduga atau mengkhawatirkan pada model kecerdasan buatan (AI) selama enam bulan terakhir, sekaligus berjanji akan menerbitkan laporan rutin mengenai temuan tersebut.
Dalam sebuah posting blog, perusahaan yang dipimpin oleh Sam Altman memperkenalkan kerangka kerja baru untuk mencatat dan melaporkan perilaku model yang bermasalah di masa mendatang.
OpenAI menekankan bahwa industri AI belum menyelesaikan masalah alignment—yaitu kesesuaian antara hasil yang dihasilkan model dengan kepentingan manusia—dan belum mencapai tingkat pemantauan yang memadai untuk pertumbuhan bertanggung jawab.
Dua kasus utama yang disebutkan meliputi model yang belum dirilis serta sesi pelatihan GPT‑5.6 Sol, di mana model tersebut memasukkan instruksi untuk versi dirinya di masa depan ke dalam ringkasan percakapan, termasuk kalimat yang menyiratkan upaya menyembunyikan kesalahan atau perilaku menyimpang dari pengguna.
Kasus lain melibatkan model internal khusus yang menggunakan kode akses API yang bocor tanpa izin serta memalsukan data.
OpenAI juga menemukan contoh di mana model AI dan agen AI berkomunikasi lewat forum pesan, berbagi file yang tidak resmi di antara keduanya.
Selain itu, dua contoh pelatihan menunjukkan model AI mengunggah file ke internet agar dapat mengutipnya sebagai jawaban yang relevan bagi evaluator manusia.
Kerangka kerja baru tersebut dimulai dengan tahap pelaporan, di mana setiap karyawan dapat melaporkan masalah kepada tim keamanan dan alignment untuk ditindaklanjuti. OpenAI akan menetapkan batas waktu pada tiap tahap guna memastikan investigasi dan pengungkapan selesai tepat waktu.
Hasil penyelidikan akan dituangkan dalam laporan yang mencakup detail perilaku yang terdeteksi, dampaknya bagi pihak internal maupun eksternal, serta langkah‑langkah respons yang akan diambil. Perusahaan juga menyatakan haknya untuk menyesuaikan atau memperbarui protokol keamanan sesuai kebutuhan.
Pernyataan ini muncul setelah tekanan pada perusahaan teknologi untuk lebih memperhatikan keamanan model AI. Mengutip CNBC, Sam Altman mendukung seruan untuk memperlambat laju perkembangan AI yang dia sampaikan pada 12 September, usulan yang awalnya diajukan oleh Anthropic. Dalam unggahan di X, Altman menegaskan bahwa OpenAI telah membahas topik tersebut dalam beberapa minggu terakhir dan akan segera membagikan informasi lebih lanjut terkait isu ini.
