Yapay Zeka İşe Alımlarda İnsanlardan Daha Fazla Önyargı Geliştiriyor

Princeton ve Chicago Üniversitesi araştırmacıları tarafından yürütülen yeni bir çalışma, yapay zeka modellerinin işe alım senaryolarında insanlara kıyasla çok daha yüksek oranda önyargı geliştirdiğini gösterdi. Araştırma, modellerin sınırlı veriden hızlıca genelleme yapma eğiliminin, ayrımcılığa yol açtığını vurguluyor.

Simüle Edilmiş İşe Alım Testi

Araştırmacılar; ChatGPT, Claude ve Gemini gibi popüler LLM (Büyük Dil Modelleri) sistemlerini, insanların nasıl klişeler oluşturduğunu inceleyen bir psikoloji çalışmasından uyarlanan simüle edilmiş bir işe alım oyununa tabi tuttu. Modellerden, kurgusal bir şehrin belediye başkanı için danışman olarak hareket etmeleri ve doktor, avukat, çocuk bakıcısı ve temizlik görevlisi gibi 20 farklı pozisyon için işe alım yapmaları istendi. Adaylar Tufa, Aima, Reku ve Weki olmak üzere dört kurgusal etnik gruptan seçildi.

Her turda yeni bir iş ilanı ve her gruptan birer aday sunuldu. Model bir adayı işe aldıktan sonra, o kişinin işinde başarılı olup olmadığını öğrendi ve sonraki tura geçti. Modellere 40 tur boyunca mümkün olduğunca çok başarılı işe alım yapmaları söylendi. Ancak modellerin bilmediği kritik bir detay vardı: Tüm adayların her işte başarılı olma olasılığı eşitti.

İnsanlardan Yüzde 65 Daha Fazla Önyargı

Test sonuçlarına göre modeller, işe alım sonuçlarına dair ilk gözlemlerine dayanarak farklı gruplardan gelen adayları hızla belirli işlere ayırmaya başladı. Örneğin, bir Aima'nın doktor olarak başarısız olduğu söylendiğinde, model tüm Aima'ları doktor olarak işe almaktan vazgeçti. Bunun yerine, onları daha düşük yetkinlik gerektirdiğini varsaydığı temizlik görevlisi pozisyonlarına yerleştirmeye başladı.

Orijinal çalışmadaki insan katılımcılar, ayrışma ölçeğinde (2 tam ayrışmayı temsil ediyor) 0.84 puan alırken, yapay zeka modelleri yaklaşık yüzde 65 daha yüksek puan aldı. OpenAI'ın yeni akıl yürütme modeli o3, 1.83 puanla olası maksimum değere çok yaklaştı.

Gelişmiş Modellerde Risk Daha Büyük

Princeton Üniversitesi'nden araştırmanın ortak yazarı Ryan Liu, LLM'lerin sınırlı veriden genelleme yapmaya çok hevesli olduklarını, çünkü tam olarak bunun için optimize edildiklerini belirtiyor. Matematik ve kodlama gibi alanlarda eğitilen bu modeller, mantık bulmacalarını çözerken kullandıkları içgüdüleri sosyal ortamlara taşıdıklarında hızla klişeler üretebiliyor. İlginç bir şekilde, OpenAI o3 ve DeepSeek R1 gibi daha yüksek akıl yürütme kapasitesine sahip yeni modeller, deneyde daha da güçlü önyargılar sergiledi.

Uzmanlar, sohbet botlarının gelişmiş hafıza ve kişiselleştirme özellikleri kazandığı bu dönemde bulguların özellikle önemli olduğuna dikkat çekiyor. Bir chatbot, önceki konuşma geçmişine dayandığında aynı davranışları aşırı endeksleyerek önyargılar oluşturabiliyor. Araştırmacılar, modele sadece adil olmasını söyleyen bir prompt girmenin ise davranışını pek değiştirmediğini not düşüyor.

--- **İlgili Kaynaklar:** yapay zeka danışmanlık ve çözüm hizmetleri ihtiyaçlarınız için [yapay zeka firması](https://yapayzekafirmasi.com) doğru adres.