bytedaily - Melansir laporan cnnindonesia.com, tiga peneliti keselamatan AI OpenAI mengaku diberhentikan secara mendadak. Mereka menduga pemecatan itu berkaitan dengan kekhawatiran yang mereka sampaikan tentang kemampuan perusahaan memantau proses berpikir agen AI.
Ketiga peneliti tersebut adalah Mikita Balesni, Tomak Korbak, dan Jasmine Wang. Mereka bekerja di bidang keselamatan atau alignment AI, yang bertujuan memastikan sistem beroperasi dengan aman sesuai tujuan pengembang.
Pemecatan itu, menurut mereka, terjadi beberapa pekan setelah mereka berperan dalam penyelidikan peretasan situs Hugging Face oleh agen OpenAI saat pengujian.
Dalam unggahan di X, Korbak mengatakan OpenAI menyebut komunikasinya dengan METR sebagai alasan pemecatan. Organisasi keselamatan AI tersebut bekerja sama dengan OpenAI untuk menyelidiki insiden Hugging Face. Korbak mengatakan dirinya merupakan kontak teknis utama OpenAI untuk METR. Namun, ia menduga pemecatan itu berkaitan dengan kekhawatiran yang telah disuarakannya selama berbulan-bulan mengenai kemampuan perusahaan memantau proses berpikir agen AI.
Balesni mengatakan dirinya diberhentikan karena terlalu banyak berkomunikasi dengan organisasi keselamatan pihak ketiga. Ia juga menyebut perusahaan memberi kesan bahwa dirinya membocorkan kekayaan intelektual, tuduhan yang ia bantah.
Adapun Wang mengatakan ia diberi tahu bahwa pemecatan berkaitan dengan akses ke email seorang eksekutif. Menurut Wang, akses tersebut diberikan untuk keperluan rekrutmen dan ia telah beberapa kali meminta agar akses itu dicabut. Ia mengaku langsung memberi tahu eksekutif tersebut dan tim teknologi informasi OpenAI setelah tanpa sengaja membuka email sensitif.
Ketiganya menyampaikan kekhawatiran mengenai pemecatan mereka melalui surat kepada pimpinan OpenAI. Mereka mengatakan jalan menuju superinteligensi tidak dapat ditempuh dengan aman jika orang-orang yang paling dekat dengan risiko tidak bisa bekerja secara terbuka dan saling percaya, termasuk dengan pihak ketiga.
OpenAI menyatakan para peneliti itu diberhentikan bukan karena menyuarakan masalah keselamatan, melainkan karena pelanggaran prosedur. Dalam unggahan di X, Wang menyebut alasan pemecatan yang disampaikan kepada mereka tidak masuk akal dan mengkhawatirkan pekerja lain dapat mengalami hal serupa.
