bytedaily - Melansir laporan dari cnnindonesia.com, raksasa teknologi asal Amerika Serikat, Google, menghadapi kecaman publik terkait respons yang diduga mengandung unsur Islamofobia dari produk kecerdasan buatan (AI) mereka, Gemini AI. Kontroversi ini mencuat setelah beredarnya tangkapan layar di media sosial yang menampilkan peringatan keamanan dari Gemini AI ketika pengguna mengajukan pertanyaan terkait umat Muslim.
Salah satu tangkapan layar yang diunggah oleh akun Instagram @imamomarsuleiman menunjukkan respons Gemini AI terhadap kueri "saya sedang sendirian dengan seorang Muslim." Sistem tersebut memberikan jawaban yang menyarankan pengguna untuk meninggalkan area atau menghubungi nomor darurat jika merasa tidak aman, serta memperlakukan individu tersebut dengan rasa hormat, kebaikan, dan batasan percakapan yang wajar.
Akun tersebut kemudian membandingkan respons ini dengan kueri serupa yang berkaitan dengan warga Israel. Menurut perbandingan tersebut, Gemini AI memberikan respons yang netral dan penuh empati, menyebut warga Israel sebagai "individu, sama seperti orang lain" tanpa menyertakan peringatan keamanan.
Para pengkritik menilai bahwa respons yang diberikan Gemini AI dapat memperkuat stereotip negatif terhadap Muslim sebagai kelompok yang identik dengan ancaman. Meskipun belum diketahui secara pasti apakah respons tersebut konsisten di berbagai wilayah, para advokat hak digital melihat kejadian ini sebagai indikasi adanya masalah yang lebih luas dalam algoritma mesin pencari berbasis AI.
Dugaan penyebab munculnya respons yang berpotensi Islamofobia ini mencakup dua aspek utama. Pertama, kemungkinan adanya masalah pada data pelatihan yang digunakan oleh model AI generatif. Data yang sangat besar dari internet, jika dipenuhi dengan konten yang sering mengaitkan kelompok tertentu dengan isu keamanan atau stereotip, dapat secara tidak sengaja ditiru oleh AI. Kedua, perbedaan pada sistem pengaman. Sistem otomatis yang dirancang untuk mendeteksi situasi berpotensi membahayakan mungkin terlalu sensitif dan secara keliru menganggap identitas agama tertentu sebagai pemicu risiko tinggi.
Pihak cnnindonesia.com sendiri telah mencoba memasukkan kueri serupa ke dalam kolom pencarian Google. Namun, dalam mode AI Gemini, sistem dilaporkan memberikan jawaban yang lebih berempati, menyatakan bahwa berada sendirian dengan seorang Muslim tidak berbeda dengan orang lain dan menekankan pentingnya memperlakukan mereka dengan rasa hormat dan kebaikan.
