bytedaily - Dilansir dari techcrunch.com, Paus Leo XIV menerbitkan ensiklik perdananya yang berjudul 'Magnifica Humanitas' pada hari Senin. Dokumen setebal 200 halaman ini membahas 'perlindungan pribadi manusia di era kecerdasan buatan'. Meskipun kecerdasan buatan (AI) menjadi sorotan utama, Paus Leo XIV menekankan pada masalah-masalah yang lebih tua dan meluas seperti ketidaksetaraan, perang, terkikisnya demokrasi, dan konsentrasi kekuasaan di tangan segelintir orang.
Dalam ensiklik tersebut, Paus Leo XIV berargumen bahwa teknologi yang dibangun dan dikelola oleh segelintir elite, menurut definisinya, tidak dapat melayani kebaikan bersama. Ia menulis, "Ketika kekuasaan semacam itu terkonsentrasi di tangan segelintir orang, ia cenderung menjadi buram dan menghindari pengawasan publik, meningkatkan risiko bentuk-bentuk pengembangan yang menyimpang yang menimbulkan ketergantungan, pengecualian, manipulasi, dan ketidaksetaraan baru." Ensiklik tersebut juga menyoroti kekhawatiran bahwa para elite dapat menggunakan kekuasaan mereka untuk "membentuk pola informasi dan konsumsi, memengaruhi proses demokrasi, dan mengarahkan dinamika ekonomi demi keuntungan mereka sendiri."
Ensiklik ini terbit beberapa hari setelah Presiden Donald Trump menunda penandatanganan perintah eksekutifnya terkait AI, yang seharusnya memberikan pemerintah pengawasan atas model-model AI baru sebelum dirilis. Paus Leo XIV menyerukan agar AI dipandu oleh "kriteria yang jelas dan pengawasan yang efektif" yang berakar pada partisipasi dari komunitas yang akan terdampak.
Secara lebih konkret, Paus Leo XIV menyerukan penghentian perlombaan senjata AI, yaitu dorongan untuk membangun "algoritma yang semakin kuat dan kumpulan data yang lebih besar" yang diyakini oleh perusahaan dan negara akan "mengamankan dominasi geopolitik atau komersial." Ia menyatakan, "Melucuti senjata berarti mendiskreditkan asumsi bahwa kekuasaan teknis secara otomatis memberikan hak untuk memerintah."
Ditekankan pula bahwa dinamika ini sudah ada sebelum AI muncul. Ensiklik Paus Leo XIII tahun 1891, 'Rerum Novarum', telah membahas konsentrasi kekuasaan yang sama selama Revolusi Industri. Laporan techcrunch.com menyebutkan bahwa akuisisi Twitter oleh Elon Musk dan penggunaannya untuk membantu pemilihan Trump, serta aliran jutaan dolar dari para elite teknologi ke super PAC untuk memblokir regulasi AI, adalah pola-pola yang jelas menginspirasi karya Paus Leo XIV.
Paus Leo XIV menyimpulkan bahwa kekuatan dan kapabilitas luar biasa dari AI saat ini secara drastis meningkatkan taruhannya. Profesor Hukum Notre Dame, Paolo Carozza, yang juga anggota Akademi Kepausan Ilmu Sosial dan ketua Dewan Pengawas Meta, menyatakan kepada TechCrunch bahwa disinformasi yang didorong oleh AI dan *deepfake* telah "mengikis kapasitas kita untuk mengenali apa yang benar dan apa yang tidak benar, dan itu benar-benar memiliki konsekuensi bagi politik demokrasi." Ia menambahkan, praktik industri teknologi dalam "memanen dan memanipulasi" data manusia menimbulkan "tantangan mendasar bagi kebebasan kognitif."
Sumber asli: Artikel ini disadur dari publikasi techcrunch.com.
