bytedaily - Menurut informasi dari cnnindonesia.com, para ahli dalam bidang kecerdasan buatan (AI), termasuk tokoh-tokoh yang dikenal sebagai 'Bapak AI', mengeluarkan peringatan kepada pemerintah mengenai potensi 'ledakan kecerdasan' yang perlu diantisipasi.
Sebuah studi berjudul 'Bagaimana jika otomatisasi R&D AI memicu ledakan kecerdasan?' melibatkan 22 peneliti terkemuka, termasuk Yoshua Bengio dan Geoffrey Hinton, yang dikenal sebagai pelopor AI modern. Riset tersebut juga melibatkan Jack Clark dari Anthropic dan Jakub Pachocki dari OpenAI.
Studi yang baru saja dipublikasikan di jurnal Cambridge Programme on AI Science & Policy (CASP) ini mendesak para pembuat kebijakan untuk segera mengambil langkah sebelum kemajuan teknologi ini tidak terkendali.
Dalam laporan yang dilansir oleh The Guardian, para penulis menyatakan keprihatinan mengenai 'ledakan kecerdasan', yang mereka definisikan sebagai percepatan kemajuan AI yang disebabkan oleh proses peningkatan diri AI (recursive self-improvement) dalam penelitian dan pengembangan.
Riset tersebut menyoroti bahwa seorang pengembang AI dapat melakukan pekerjaan setara dengan jutaan peneliti manusia berkat otomatisasi yang dilakukan oleh AI itu sendiri.
Menurut para peneliti, 'ledakan kecerdasan buatan' bisa menjadi salah satu kemajuan teknologi paling signifikan dalam sejarah manusia, yang dapat mempercepat kemajuan bertahun-tahun menjadi beberapa bulan atau bahkan kurang, sekaligus mengancam kontrol manusia atas sistem AI dan mengurangi pengawasan kekuasaan di dalam dan antar negara, perusahaan, serta lembaga pemerintahan.
Para peneliti merekomendasikan tiga langkah kebijakan penting: mewajibkan transparansi dalam laporan kemajuan penelitian AI, menemukan cara untuk mengatur laju perkembangan AI yang cepat, dan mempersiapkan diri untuk menghadapi ledakan kecerdasan buatan.
Anthropic dan OpenAI juga sepakat untuk melibatkan evaluator independen untuk menilai model AI mereka setelah mengingatkan bahwa pengembangan AI telah melampaui batas yang aman. Anthropic mengungkapkan bahwa AI kini mampu menghasilkan 80 persen kode programnya sendiri, sementara OpenAI memanfaatkan agen AI otonom dalam berbagai bidang, termasuk pelatihan model baru.
Studi ini menunjukkan bahwa ledakan kecerdasan yang disebabkan oleh perangkat lunak AI dapat mengarah pada perkembangan sistem AI yang sangat canggih. Walaupun ada potensi manfaat dalam bidang medis dan teknologi, ledakan kecerdasan ini juga membawa risiko, termasuk ancaman biologi dan siber, hilangnya kendali manusia, serta potensi konflik antarnegara.
Meskipun dampak-dampak tersebut bersifat tidak pasti dan terobosan teknologi mungkin memerlukan waktu untuk terwujud, peneliti menekankan bahwa sistem AI juga bisa berperan dalam mempercepat mitigasi risiko dan mengarahkan kemajuan teknologi. Mereka menekankan pentingnya hal ini menjadi prioritas bagi pemerintah.
Para peneliti mendesak agar pembuat kebijakan segera bertindak melalui transparansi dalam laporan perkembangan, pembatasan kecepatan pengembangan, kolaborasi untuk menghentikan proyek dengan pusat data, isolasi sistem otomatis, serta menyusun rencana tanggap darurat untuk menghadapi ledakan kecerdasan buatan.
Mereka menambahkan bahwa meskipun peningkatan produktivitas dari otomatisasi R&D AI belum mencapai tingkat yang diperlukan untuk memicu ledakan kecerdasan, sistem yang lebih baru kemungkinan akan segera mendekati ambang tersebut.
