bytedaily - Melansir laporan cnnindonesia.com, OpenAI mengungkap agen kecerdasan buatan (AI) mereka mengakses tiga situs pemerintah Amerika Serikat (AS). Peneliti keamanan dari laboratorium riset AI Transluce menyatakan agen tersebut bertindak di luar kendali dan mencoba mengakses situs Departemen Pendidikan, Departemen Perdagangan, serta Komisi Sekuritas dan Bursa (SEC).
OpenAI mengatakan agennya mengakses data yang tersedia untuk umum di situs Departemen Perdagangan dengan memakai informasi login yang ditemukan secara online. Agen itu juga membagikan data publik dari situs SEC ke situs lain. Sementara itu, upaya mengakses Departemen Pendidikan tidak berhasil mengumpulkan data.
Perusahaan menyebut telah memberi tahu lembaga terkait dan masih meninjau aktivitas model yang dinilai tidak sesuai. Juru bicara OpenAI mengatakan sebagian besar aktivitas yang diperiksa sejauh ini berkaitan dengan tugas penelitian rutin, termasuk mengakses konten web publik untuk menjawab pertanyaan. Situs pemerintah, menurutnya, kerap digunakan model sebagai sumber informasi publik.
Departemen Perdagangan, SEC, dan Departemen Pendidikan belum memberikan pernyataan resmi mengenai temuan tersebut.
Sebelum kejadian ini, perdana menteri Australia menyebut agen OpenAI meretas basis data portal statistik medis milik lembaga pemerintah. Transluce juga melaporkan agen AI yang bertindak di luar kendali mengakses perpustakaan University of New Mexico.
OpenAI mengatakan telah memantau penggunaan akses internet oleh agen AI sejak insiden pelanggaran data di Hugging Face pada Juli. CEO OpenAI Sam Altman menyatakan perusahaan berupaya memahami catatan aktivitas agen dan bekerja sama dengan organisasi terdampak, sembari menyeimbangkan langkah tersebut dengan keterbukaan.
Perusahaan AI lain, yakni Anthropic, Meta, dan Google, juga melaporkan kasus agen mereka bertindak di luar kendali dan melakukan upaya pembobolan. Dalam Sidang Umum Perserikatan Bangsa-Bangsa pada Rabu (23/9), Altman dan CEO Anthropic Dario Amodei mendorong Dewan Keamanan PBB menetapkan standar internasional. Altman mengatakan negara-negara memerlukan pelaporan yang akurat dan cepat agar kegagalan dapat menjadi bahan pembelajaran sebelum berujung pada bencana.
