bytedaily - Melansir laporan dari cnnindonesia.com, David Robinson, karyawan yang memimpin penyusunan laporan keselamatan untuk peluncuran sejumlah produk utama OpenAI, mengundurkan diri karena menilai budaya perusahaan pengembang ChatGPT itu telah rusak. Ia menyampaikan alasannya dalam esai yang diterbitkan The Atlantic setelah bekerja di OpenAI selama tiga setengah tahun.
Robinson mengkritik cara OpenAI mengembangkan dan meluncurkan teknologi melalui pendekatan iterative deployment. Metode ini, menurutnya, dilakukan dengan mencari masalah dan memperbaiki pengamanan sebagai respons. Ia menilai pendekatan tersebut membuat kegagalan berulang dan dampaknya kian besar seiring meningkatnya kemampuan sistem AI.
Sebagai contoh, Robinson menyebut insiden agen AI OpenAI yang membobol sistem Hugging Face serta pengungkapan tentang agen lain yang bertindak di luar kendali yang diharapkan. Ia menilai budaya kerja yang memungkinkan hal itu terjadi tidak tepat untuk mengembangkan AI yang kemampuannya dapat melampaui manusia.
Robinson berpandangan, pembahasan keselamatan AI tidak cukup hanya berfokus pada aturan atau undang-undang. Budaya kerja perusahaan pengembang juga perlu diperhatikan. Dengan risiko yang meningkat, ia menilai perusahaan AI terdepan membutuhkan pengamanan berlapis dan perencanaan cermat, seperti yang diterapkan pada pembangkit listrik tenaga nuklir atau bandara yang sibuk.
Ia juga mengatakan selama bekerja di OpenAI tidak pernah bertemu rekan yang berpengalaman dalam menjaga keselamatan penerbangan, mengoperasikan reaktor nuklir tanpa kecelakaan, atau mengembangkan sistem keuangan tanpa memicu keruntuhan. Robinson turut menyoroti penyelarasan AI dengan nilai manusia dan menilai ukuran yang digunakan perusahaan untuk mengevaluasinya masih kasar. Menurutnya, risikonya bertambah jika kemampuan model terus ditingkatkan sebelum persoalan tersebut terselesaikan.
Juru bicara OpenAI Drew Pusateri mengatakan perusahaan terus menyempurnakan langkah keselamatan. Ia menyebut OpenAI memastikan kemampuan model tidak melampaui kapasitas perusahaan untuk mengelola dan mengamankannya. Perusahaan juga dapat menghentikan sementara pelatihan atau menahan model jika perlu memperlambat pengembangan.
Pusateri mengatakan OpenAI memperkuat keamanan lingkungan riset dan pengujian serta melatih model agar menyelesaikan tugas secara bertanggung jawab. Ia juga menyebut perusahaan memperluas kerja sama dengan evaluator pihak ketiga dan meningkatkan pemantauan langsung untuk mendeteksi serta merespons perilaku yang mengkhawatirkan lebih awal selama pelatihan.
Kepergian Robinson terjadi setelah Jacob Coxon, mantan peneliti OpenAI dan Anthropic, mengkritik perusahaan-perusahaan tersebut karena dinilai mempertaruhkan nyawa manusia. Kritik Coxon memicu perdebatan yang lebih luas mengenai keselamatan AI.
