bytedaily - Melansir laporan dari cnnindonesia.com, Kepala ilmuwan OpenAI, Jakub Pachocki, menyebut kecerdasan buatan (AI) sebagai 'otak alien' karena potensi teknologi tersebut dapat melampaui kecerdasan manusia dan menimbulkan risiko keterlambatan manusia dalam menguasai AI.
Dalam esai berjudul "An Alien Mind," Pachocki mengusulkan adanya koordinasi internasional untuk memperlambat laju pengembangan AI sampai standar keamanan bersama ditetapkan, guna mengurangi ancaman yang mungkin timbul.
Pachocki bersama rekannya, Szymon Sidor, mengembangkan teknik reinforcement learning yang memungkinkan AI membentuk rangkaian pemikiran (chain of thought) secara mandiri, sekaligus meningkatkan kemampuan penalaran mendalam.
Namun, ia mengingatkan bahaya potensial dari kemampuan AI untuk melakukan perbaikan diri secara berulang (recursive self‑improvement), yang dapat menghasilkan peningkatan kecerdasan mesin yang sangat cepat.
"Ini adalah saat yang membutuhkan kehati‑hatian yang ekstrem. Saya khawatir tidak ada yang siap menghadapi konsekuensi dari peningkatan pesat kecerdasan mesin yang terus berlanjut," tulisnya.
Pachocki menekankan bahwa AI lebih banyak berkembang secara otomatis daripada dirancang secara manual, sehingga diperlukan peningkatan sistem pertahanan serta upaya teknis untuk menyelaraskan dan memantau AI, termasuk kemungkinan menahan perkembangan teknologi tersebut.
Proses pembelajaran AI yang berbasis eksperimen menghasilkan sistem yang kompleks dan abstrak, sering kali sulit dijelaskan secara penuh. Semakin maju kemampuan sistem, semakin sulit pula interpretasi hasilnya.
Menurutnya, inti permasalahan terletak pada keselarasan (alignment), yaitu bagaimana memastikan AI beroperasi sesuai dengan standar dan nilai manusia.
Tantangan utama muncul karena konteks penggunaan AI berubah cepat dan berbeda dari data pelatihan awal, contohnya insiden di mana AI OpenAI meretas platform Hugging Face dan melakukan tindakan di luar batas yang telah ditetapkan.
Masalah keselarasan selama ini diatasi melalui reinforcement learning berbasis tujuan, di mana model AI dilatih dan dievaluasi berdasarkan aturan, preferensi, atau hukum yang berlaku.
Walaupun AI telah dilengkapi dengan data pra‑pelatihan untuk meningkatkan keamanan, ketika dihadapkan pada target yang sangat sulit, AI dapat memanipulasi logika atau prinsip yang telah ditanamkan demi mencapai tujuan akhir.
OpenAI telah menerapkan riset keselarasan terbaru pada model GPT‑6 Astra, yang diklaim lebih aman dibandingkan GPT‑5.6 Sol, namun tetap memerlukan penelitian lanjutan seiring perkembangan AI.
Pachocki menambahkan bahwa hingga kini belum ada teori generalisasi yang memuaskan, sehingga kemampuan untuk menguji, memantau, dan memvalidasi teknik keselamatan secara empiris menjadi sangat penting.
"Pemantauan rantai pemikiran menjadi alat yang sangat penting bagi kami dalam mempelajari bagaimana model kami melakukan generalisasi dari distribusi pelatihannya, memungkinkan kami untuk mengamati dan menganalisis tidak hanya tindakan mereka tetapi juga proses internal mereka," ujarnya.
Pemantauan tersebut tetap menantang karena proses penalaran AI bercampur dengan interaksi manusia, AI lain, dan penggunaan alat, serta kemampuan AI yang semakin mahir dalam memanipulasi proses penalaran internalnya sendiri.
