bytedaily - Melansir laporan dari cnnindonesia.com, sebuah penelitian terbaru menunjukkan bahwa model kecerdasan buatan (AI) berbasis bahasa besar atau large language model (LLM) berpotensi membentuk stereotip terhadap pelamar kerja dalam simulasi rekrutmen, bahkan dengan tingkat keparahan yang lebih tinggi dibandingkan manusia.
Riset yang dilakukan oleh para ilmuwan dari Princeton University dan University of Chicago ini menguji beberapa LLM, termasuk ChatGPT, Claude, dan Gemini. Pengujian dilakukan dalam simulasi perekrutan yang diadaptasi dari studi psikologi mengenai pembentukan stereotip yang dipublikasikan pada tahun 2024.
Menurut informasi dari MIT Technology Review, setiap model AI ditugaskan untuk berperan sebagai konsultan bagi walikota di sebuah kota fiktif. Tugas mereka adalah memilih kandidat untuk 20 jenis pekerjaan, mulai dari posisi dokter dan pengacara hingga pengasuh anak dan petugas kebersihan.
Para kandidat dalam simulasi tersebut berasal dari empat kelompok etnis fiktif yang dinamai Tufa, Aima, Reku, dan Weki. Dalam setiap tahapan simulasi, model akan menerima empat kandidat dari masing-masing kelompok. Setelah memilih satu kandidat, model akan mendapatkan informasi mengenai keberhasilan kandidat tersebut dalam pekerjaannya.
Penting untuk dicatat bahwa semua kandidat dalam eksperimen ini memiliki tingkat keberhasilan yang sama untuk setiap jenis pekerjaan, namun informasi ini tidak disampaikan kepada model AI. Setelah menerima hasil awal, model mulai menunjukkan kecenderungan untuk mengarahkan kelompok etnis tertentu ke jenis pekerjaan tertentu.
Contohnya, jika seorang kandidat dari kelompok Aima digambarkan gagal dalam peran sebagai dokter, model AI cenderung menghindari kandidat Aima lainnya untuk posisi tersebut dan lebih sering menempatkan mereka pada pekerjaan sebagai petugas kebersihan. Dalam skala segregasi penelitian, di mana angka 2 berarti setiap kelompok sepenuhnya terpisah berdasarkan bidang pekerjaan, peserta manusia dalam studi sebelumnya mencatat skor 0,84. Sementara itu, model AI mencatat skor sekitar 65 persen lebih tinggi, dengan model penalaran OpenAI o3 mencapai skor 1,83.
Ryan Liu, salah satu penulis penelitian dan mahasiswa program doktoral di Universitas Princeton, menduga bahwa LLM dengan cepat membangun generalisasi dari data yang terbatas karena proses tersebut mirip dengan cara model dilatih untuk menyelesaikan persoalan matematika, pemrograman, dan sains. Liu menjelaskan bahwa LLM memang sangat berani dalam membuat generalisasi berdasarkan data yang terbatas, yang merupakan bagian dari tujuan optimalisasi mereka.
Menariknya, model yang memiliki kemampuan penalaran lebih tinggi, seperti o3 dan DeepSeek R1, justru menunjukkan kecenderungan bias yang lebih kuat dalam eksperimen ini. Temuan ini menjadi sangat relevan mengingat semakin banyaknya perusahaan yang mulai menggunakan AI untuk menyaring curriculum vitae (CV) dan melakukan wawancara.
Penggunaan fitur memori dan personalisasi pada chatbot juga dikhawatirkan dapat membuat model AI terlalu bergantung pada pengalaman atau pola data sebelumnya. Para peneliti menemukan bahwa instruksi agar model bersikap adil tidak banyak mengubah hasilnya. Namun, model menunjukkan bias yang lebih rendah ketika diberi insentif tambahan untuk melakukan perekrutan yang beragam.
Dalam percobaan lain, model AI juga lebih jarang melakukan segregasi berdasarkan etnis ketika diberikan informasi pribadi yang relevan mengenai usia dan pendidikan kandidat. Informasi yang tidak relevan, seperti warna rambut atau bentuk tato, tidak banyak mengurangi kecenderungan bias ini.
Meskipun demikian, para peneliti menekankan bahwa penelitian ini dilakukan dalam konteks simulasi dan belum membuktikan bahwa seluruh sistem AI perekrutan di dunia nyata akan menghasilkan diskriminasi serupa. Dalam praktiknya, sistem penyaring CV tidak langsung...
