bytedaily - Menurut laporan techcrunch.com, upaya hukum Elon Musk untuk membubarkan OpenAI berpotensi bergantung pada sejauh mana anak perusahaan profitnya meningkatkan atau mengurangi misi awal laboratorium tersebut yang bertujuan memastikan kecerdasan buatan umum (AGI) bermanfaat bagi umat manusia.
Pada hari Kamis, sebuah pengadilan federal di Oakland, California, mendengar kesaksian mantan karyawan dan anggota dewan yang menyatakan bahwa upaya perusahaan untuk memasarkan produk AI telah mengkompromikan komitmennya terhadap keamanan AI. Rosie Campbell, yang bergabung dengan tim kesiapan AGI OpenAI pada tahun 2021 dan meninggalkan perusahaan pada tahun 2024 setelah timnya dibubarkan, bersaksi bahwa fokus perusahaan bergeser dari penelitian ke produk.
Di bawah pemeriksaan silang, Campbell mengakui bahwa pendanaan yang signifikan kemungkinan diperlukan untuk mencapai tujuan AGI, namun ia menekankan bahwa menciptakan model komputer super cerdas tanpa langkah-langkah keamanan yang memadai tidak sejalan dengan misi awal organisasi. Ia mencontohkan insiden ketika Microsoft menerapkan versi model GPT-4 di India melalui mesin pencarinya sebelum model tersebut dievaluasi oleh Dewan Keamanan Penerapan (DSB) perusahaan. Meskipun model tersebut tidak menimbulkan risiko besar, Campbell berpendapat bahwa penting untuk menetapkan preseden yang kuat seiring dengan meningkatnya kekuatan teknologi.
Pengacara OpenAI juga meminta Campbell mengakui bahwa, dalam pandangan spekulatifnya, pendekatan keamanan OpenAI lebih unggul daripada xAI, perusahaan AI yang didirikan oleh Musk. OpenAI merilis evaluasi modelnya dan membagikan kerangka kerja keamanannya secara publik, namun menolak berkomentar mengenai pendekatan saat ini terhadap keselarasan AGI. Dylan Scandinaro, kepala kesiapan saat ini, direkrut dari Anthropic pada Februari, yang disebut oleh Sam Altman sebagai langkah yang membuatnya "bisa tidur lebih nyenyak malam ini".
Penerapan GPT-4 di India merupakan salah satu tanda bahaya yang menyebabkan dewan nirlaba OpenAI memberhentikan sementara CEO Sam Altman pada tahun 2023. Insiden tersebut terjadi setelah karyawan, termasuk kepala ilmuwan saat itu Ilya Sutskever dan CTO saat itu Mira Murati, mengeluhkan gaya manajemen Altman yang menghindari konflik. Tasha McCauley, anggota dewan saat itu, bersaksi tentang kekhawatiran bahwa Altman tidak cukup transparan kepada dewan agar struktur organisasinya yang tidak biasa berfungsi.
McCauley juga membahas pola yang dilaporkan luas mengenai Altman yang menyesatkan dewan. Secara khusus, Altman berbohong kepada anggota dewan lain mengenai niat McCauley untuk menyingkirkan Helen Toner, anggota dewan ketiga yang menerbitkan makalah yang berisi kritik tersirat terhadap kebijakan keamanan OpenAI. Altman juga gagal memberi tahu dewan tentang keputusan untuk meluncurkan ChatGPT secara publik, dan para anggota prihatin tentang kurangnya pengungkapan potensi konflik kepentingan. "Kami adalah dewan nirlaba dan mandat kami adalah dapat mengawasi entitas profit di bawah kami," kata McCauley di pengadilan. "Cara utama kami untuk melakukannya dipertanyakan. Kami tidak memiliki tingkat kepercayaan yang tinggi."
Sumber asli: Artikel ini disadur dari publikasi techcrunch.com.
