bytedaily - Dilansir dari bbc.com, OpenAI, perusahaan di balik ChatGPT, terpaksa menginstruksikan beberapa alat kecerdasan buatannya untuk berhenti membahas topik 'goblin'. Hal ini dilakukan setelah ditemukan bahwa istilah tersebut secara acak muncul dalam berbagai respons.
Dalam sebuah posting blog pada hari Kamis, OpenAI menyatakan bahwa mereka mendeteksi peningkatan penyebutan makhluk mitologi tersebut, termasuk 'gremlins', dalam metafora yang digunakan oleh ChatGPT dan alat lain yang didukung oleh model terbarunya, GPT-5.
Setelah pengguna dan karyawan melaporkan masalah yang digambarkan sebagai 'goblin kecil', OpenAI mengambil langkah-langkah untuk mengatasi masalah ini. Salah satunya adalah memberitahu agen pengkodeannya, Codex, untuk tidak merujuk pada goblin kecuali jika relevan.
Perusahaan menemukan bahwa 'kepribadian kutu buku' yang dikembangkan untuk ChatGPT secara tidak sengaja terdorong untuk memberi penghargaan pada penyebutan goblin. Masalah ini menyoroti tantangan yang dihadapi perusahaan AI dalam menangani potensi sistem dan pelatihan mereka untuk memberi penghargaan serta memperkuat kesalahan, seperti kebiasaan bahasa yang aneh.
OpenAI pertama kali menyadari peningkatan penyebutan goblin, gremlins, dan makhluk lain setelah peluncuran GPT-5.1 pada bulan November. "Pengguna mengeluhkan model yang terlalu akrab dalam percakapan, yang memicu penyelidikan terhadap kebiasaan verbal tertentu," tulis perusahaan dalam posting blognya.
Mereka menambahkan bahwa setelah seorang peneliti yang melihat beberapa penyebutan 'goblin' memintanya untuk diperiksa, pengembang menemukan bahwa kemunculan istilah tersebut dalam respons ChatGPT meningkat sebesar 175% sejak peluncuran GPT-5.1. Peningkatan ini, meskipun besar, mungkin hanya mewakili sebagian kecil dari keseluruhan respons.
Menurut OpenAI, "satu 'goblin kecil' dalam sebuah jawaban mungkin tidak berbahaya, bahkan menawan," namun peningkatan kemunculannya di seluruh keluaran memerlukan penyelidikan.
Sebelum posting blog OpenAI merinci masalah ini, beberapa pengguna media sosial menyoroti detail aneh dalam baris kode yang menginstruksikan asisten pengkodean perusahaan, Codex, tentang cara berperilaku dalam interaksi pengguna. Selain memberitahunya untuk menghindari klise, kode tersebut menyatakan bahwa Codex harus "tidak pernah berbicara tentang goblin, gremlins, rakun, troll, ogre, merpati, atau hewan atau makhluk lain kecuali jika benar-benar dan tidak ambigu relevan dengan permintaan pengguna.".
Seorang pengguna Reddit yang memposting tentang hal itu di subreddit r/ChatGPT menyebutnya "benar-benar gila". "Mengapa GPT 5.5 memiliki perintah pengekangan terhadap 'Rakun,' 'Goblin,' dan 'Merpati'?" tanyanya.
Meskipun beberapa pengguna di media sosial berspekulasi bahwa ini mungkin dirancang untuk menciptakan sensasi seputar alat AI-nya, seorang peneliti perusahaan membantahnya. Ia menulis "ini benar-benar bukan gimmick pemasaran," dalam balasan kepada seorang pengguna di X pada hari Rabu.
OpenAI menyatakan dalam posting blognya bahwa mereka menambahkan instruksi tersebut untuk mengekang "ketertarikan aneh pada goblin" pada Codex dan model dasarnya. Inti masalahnya, seperti yang dijelaskan, tampaknya muncul saat melatih model mereka untuk berkomunikasi dalam gaya kepribadian tertentu, dalam hal ini dengan 'kepribadian kutu buku' mereka.
Mereka menemukan sistem ini akan memberi penghargaan pada penyebutan goblin, gremlins, dan makhluk lain dalam metafora. Meskipun sudah pensiun, perusahaan menyatakan pengujian mereka menemukan kepribadian tersebut bertanggung jawab atas 66,7% dari semua penyebutan 'goblin' di ChatGPT. Kebiasaan yang disebut 'tic' ini dapat merembes ke pelatihan model yang lebih luas jika diberi penghargaan dalam satu contoh dan diperkuat di tempat lain.
Langkah ini dilakukan di tengah pergeseran industri yang lebih luas menuju pembuatan chatbot AI yang lebih didorong oleh kepribadian dan cerewet dalam upaya untuk meningkatkan keterlibatan pengguna. Namun, para ahli telah memperingatkan bahwa potensi mereka untuk mengarang sesuatu – atau "berhalusinasi" seperti yang digambarkan industri – dapat meningkat.
Sumber asli: Artikel ini disadur dari publikasi bbc.com.
