bytedaily - Melansir laporan cnnindonesia.com, 22 peneliti kecerdasan buatan (AI), termasuk Yoshua Bengio dan Geoffrey Hinton, menerbitkan riset yang meminta pemerintah bersiap menghadapi kemungkinan ledakan kecerdasan AI. Penelitian berjudul “Bagaimana jika otomatisasi R&D AI memicu ledakan kecerdasan?” itu juga melibatkan salah satu pendiri Anthropic, Jack Clark, dan Kepala Ilmuwan OpenAI, Jakub Pachocki.
Riset yang diterbitkan dalam jurnal Cambridge Programme on AI Science & Policy (CASP) tersebut mendesak pembuat kebijakan bertindak sebelum perkembangan AI menjadi sulit dikendalikan. Mengutip The Guardian, para peneliti mendefinisikan ledakan kecerdasan sebagai percepatan besar kemajuan AI yang dipicu oleh AI itu sendiri melalui peningkatan mandiri berulang atau otomatisasi penelitian dan pengembangan (R&D).
Menurut penelitian itu, otomatisasi R&D berpotensi memungkinkan seorang pengembang menjalankan kapasitas kerja setara jutaan peneliti manusia terbaik. Para penulis menilai perkembangan tersebut dapat memadatkan kemajuan bertahun-tahun menjadi hitungan bulan atau lebih singkat, sekaligus mengancam kendali manusia atas AI dan melemahkan pengawasan terhadap kekuasaan di dalam maupun antarnegara, perusahaan, serta lembaga pemerintahan.
Para peneliti mengusulkan tiga prioritas kebijakan: mewajibkan pelaporan kemajuan R&D AI secara transparan, mencari cara untuk membatasi laju pengembangan yang sangat cepat, dan menyiapkan langkah adaptasi. Mereka juga mendorong transparansi kemajuan, pembatasan laju pengembangan, kerja sama penghentian proyek dengan pusat data, isolasi sistem otomatis, serta penyusunan rencana tanggap darurat.
Anthropic dan OpenAI disebut telah sepakat meminta evaluator atau auditor independen menilai model mereka setelah memperingatkan bahwa pengembangan AI telah melampaui batas aman. Anthropic menyatakan AI kini menulis 80 persen kode programnya, sedangkan OpenAI memakai agen AI otonom, termasuk dalam pelatihan model baru.
Riset tersebut menyebut otomatisasi R&D AI dapat mempercepat munculnya sistem AI dengan kemampuan melampaui manusia. Potensi manfaatnya antara lain bagi bidang medis dan teknologi, tetapi para peneliti juga menguraikan risiko ancaman biologis dan siber, berkurangnya kendali serta keterlibatan manusia, dan kemungkinan perang antarnegara.
Para penulis menegaskan risiko tersebut belum tentu terjadi dan terobosan teknologi mungkin memerlukan waktu untuk diterapkan. Mereka juga menyatakan AI berpotensi membantu mempercepat mitigasi risiko, sehingga upaya menjaga arah kemajuan teknologi perlu menjadi prioritas pemerintah.
