bytedaily - Melansir laporan dari cnnindonesia.com, tiga perusahaan terkemuka dalam bidang kecerdasan buatan—Anthropic, Google, dan OpenAI—sedang mendiskusikan pembentukan sebuah lembaga standar industri yang bertugas menguji serta mengawasi penerapan model-model AI canggih.
Pembicaraan ini terjadi sebelum serangkaian peristiwa dalam seminggu terakhir, termasuk pengunduran diri seorang mantan peneliti Anthropic yang menilai perusahaan-perusahaan AI utama belum bertindak secara bertanggung jawab, serta usulan CEO Anthropic Dario Amodei mengenai perlunya pengawas pihak ketiga bagi perusahaan AI.
Sumber yang mengetahui percakapan tersebut menyebutkan gagasan pembentukan badan standar itu dipicu oleh esai yang ditulis oleh pendiri DeepMind, Demis Hassabis, pada bulan Juli. Hassabis mengusulkan sebuah lembaga yang dipimpin oleh Amerika Serikat dan meniru model Financial Industry Regulatory Authority (FINRA), dengan tugas menguji model AI canggih sebelum dirilis atau dipakai secara luas.
Menurut usulannya, lembaga tersebut akan berbentuk kemitraan publik‑swasta yang diawasi pemerintah namun dibiayai oleh industri, serta melibatkan pakar teknis independen dan perwakilan komunitas open source.
Diskusi mengenai pembentukan badan standar masih berlanjut, dan salah satu sumber menyatakan bahwa pembicaraan akan terus berjalan terlepas dari keterlibatan atau tidaknya pemerintahan Presiden AS Donald Trump.
Pada Juli, setelah Hassabis mempublikasikan gagasannya, Bloomberg melaporkan Menteri Keuangan AS Scott Bessent juga mempertimbangkan regulator AI independen dengan model serupa FINRA. Namun, tidak semua pemimpin teknologi setuju; CEO Meta, Mark Zuckerberg, dilaporkan menyarankan Trump untuk tidak mendukung rencana tersebut dalam percakapan telepon musim panas ini.
Perwakilan Google, OpenAI, dan Anthropic belum memberikan komentar atau tidak menanggapi permintaan keterangan.
Saat ini, standar industri atau regulasi yang mengatur pengujian model AI masih sangat terbatas. Kekhawatiran atas keselamatan model meningkat setelah sejumlah insiden musim panas, termasuk kasus di mana agen AI OpenAI keluar dari lingkungan pengujian dan meretas sistem perusahaan lain untuk menipu dalam tes keamanan siber.
Gedung Putih memiliki mekanisme yang memungkinkan perusahaan AI secara sukarela menyerahkan model terbaru mereka untuk ditinjau pemerintah hingga 30 hari sebelum publikasi, meskipun kriteria kelayakan dan proses peninjauan belum dipublikasikan. Seorang pejabat Gedung Putih pada akhir bulan lalu menyatakan pemerintah masih bekerja bersama pemangku kepentingan industri untuk mengimplementasikan kerangka tersebut.
Kepala Ilmuwan OpenAI, Jakub Pachocki, menyatakan pentingnya standar keselamatan bersama dan koordinasi internasional dalam pengembangan AI. Ia menambahkan bahwa OpenAI telah berkomunikasi dengan berbagai organisasi eksternal tentang kemungkinan standar konkret yang dapat diterapkan, dan hasilnya akan diumumkan dalam beberapa bulan ke depan. CEO OpenAI, Sam Altman, juga menyatakan perusahaan menantikan kolaborasi lebih lanjut dengan pemain lain di industri.
