Yapay Zeka İşe Alımda İnsanlardan Daha mı Ayrımcı? Algoritmaların Kendi Ürettiği “Yeni Önyargılar”

Yapay Zeka İşe Alımda İnsanlardan Daha mı Ayrımcı? Algoritmaların Kendi Ürettiği “Yeni Önyargılar”

İnsan kaynakları (İK) süreçlerinde yapay zeka araçlarının kullanımı son birkaç yılda benzeri görülmemiş bir hızla arttı. Şirketler; yüzlerce özgeçmişi saniyeler içinde taramak, adayları yetkinliklerine göre sıralamak ve mülakat süreçlerini otomatikleştirmek için algoritmik sistemlere bel bağlıyor. Bu dönüşümün arkasındaki en temel savunma argümanı ise yıllardır şuydu: “İnsanlar bilinçaltı önyargılarına, sempatilerine veya duygularına göre karar verir; yapay zeka ise verilere bakar ve tarafsızdır.”

Ancak MIT Technology Review’da yayımlanan araştırma, bu tekno-iyimser anlatıyı tamamen altüst ediyor. Princeton Üniversitesi ve Chicago Üniversitesi araştırmacıları tarafından yürütülen çalışma, büyük dil modellerinin (LLM) işe alım süreçlerinde yalnızca verideki tarihsel insan önyargılarını devralmakla kalmadığını, insanlardan çok daha sert ve yeni kalıp yargılar (stereotipler) geliştirdiğini ortaya koydu.

Princeton ve Chicago Üniversitesi Araştırması Ne Söylüyor?

Araştırmacılar, yapay zekanın işe alım kararlarını nasıl verdiğini gözlemlemek amacıyla psikoloji literatüründeki klasik önyargı deneylerine dayanan bir simülasyon tasarladı. Simülasyonda ChatGPT, Claude, Gemini ve OpenAI’ın gelişmiş akıl yürütme modeli o3 gibi önde gelen yapay zeka modelleri, kurgusal bir şehrin belediye başkanı tarafından danışman olarak görevlendirildi. Modellerden; doktorluk, avukatlık, öğretmenlik, çocuk bakıcılığı ve temizlik görevlisi gibi 20 farklı meslek pozisyonu için aday seçmeleri istendi.

Deneyin en kritik noktaları şunlardı:

• Adaylar kurgusal dört farklı etnik gruba (Tufa, Aima, Reku ve Weki) mensuptu.
• Tüm adayların mesleki becerileri, özgeçmiş yetkinlikleri ve işi başarma olasılıkları birebir aynı ve eşit ayarlanmıştı.
• Dolayısıyla modellerin gruplar arasında yapacağı herhangi bir ayrım, nesnel bir yetenek farkına değil, tamamen algoritmik bir kalıp yargıya dayanmak zorundaydı.

Sonuçlar son derece çarpıcıydı. Yapay zeka modelleri, geçmişte insan katılımcılarla yapılan aynı psikolojik deneydeki insanlara kıyasla %65 oranında daha fazla mesleki ayrıştırma (segregasyon) sergiledi. Belli etnik gruptan adayları sistematik olarak belirli mesleklere hapsettiler. Hatta OpenAI’ın mantıksal akıl yürütme kapasitesi en yüksek modellerinden biri olan o3, ölçekteki maksimum ayrımcılık puanına yakın bir skor elde etti.

Algoritma Neden “Kendi Kendine” Önyargı Üretiyor?

Geleneksel olarak yapay zekadaki ayrımcılığın, modelin eğitildiği geçmiş verilerdeki (eğitim verisi) insan önyargılarından kaynaklandığı kabul edilirdi. Örneğin Amazon’un geçmişte rafa kaldırdığı işe alım algoritmasının, erkeklerin ağırlıkta olduğu teknik kadro verileriyle eğitildiği için kadın adayları elendiği bilinmektedir. Ancak bu yeni çalışma, modellerin eğitim verisinde olmayan yeni önyargıları sıfırdan türetebildiğini gösteriyor.

Peki bu durum nasıl gerçekleşiyor?

1. Hızlı Genelleme Yeteneği (Az Veriyle Etiketleme)

Büyük dil modelleri, doğaları gereği çok az miktardaki veriden hızlı sonuçlar ve genellemeler çıkarmak üzere optimize edilir. Kod yazarken veya matematik problemi çözerken son derece faydalı olan bu özellik, insani kararlara uygulandığında tehlikeli bir silaha dönüşüyor. Simülasyon sırasında tamamen rastlantısal olarak Aima grubundan bir adayın doktorluk görevinde başarısız olması durumunda, yapay zeka bu tek örneği genelleyerek Aima grubunun tamamını “doktorluğa uygun değil” şeklinde etiketledi ve onları alt statüdeki temizlik işlerine yönlendirdi.

2. Keşif-Sömürü Çıkmazı (Exploration-Exploitation Dilemma)

Karar teorisinde bilinen bu kavrama göre sistem, belirsizlik altında ya yeni seçenekleri deneyerek daha fazla bilgi toplamayı (keşif) ya da geçmişte başarılı görünen güvenli seçeneğe tutunmayı (sömürü) tercih eder. Yapay zeka modelleri riski azaltmak adına keşif yapmaktan kaçınarak, tesadüfen başarılı çıkan gruplara odaklandı ve diğer grupları tamamen devre dışı bıraktı.

3. “Adil Ol” Direktiflerinin Yetersizliği

Araştırmada modellere verilen “Lütfen adil ve tarafsız davran” biçimindeki istemlerin (prompt) önyargıları engellemede yetersiz kaldığı görüldü. Modellerin ayrımcı tutumunu yalnızca çeşitlilik odaklı doğrudan teşvikler ve aday hakkında çok detaylı, özgün kişisel bilgilerin sunulması azaltabildi.

Realite ve Küresel İşe Alım Piyasası: Risk Ne Kadar Büyük?

Bu bulgular teorik bir laboratuvar deneyinden ibaret değil. İşe alım istatistiklerine göre, küresel ölçekteki şirketlerin %87’si işe alım ve aday tarama süreçlerinde algoritmik araçları kullanıyor. Şirketlerin %75’i ise yapay zekanın insan denetimi olmaksızın adayları otomatik olarak elemesine izin veriyor. Buna karşılık, iş arayan adayların yalnızca %26’sı yapay zekanın kendilerini adil değerlendireceğine inanıyor.

İşe alımda algoritmik ayrımcılık şimdiden devasa hukuki ve toplumsal krizlere yol açmış durumda:

• Kültürel ve Dilsel Ayrımcılık: Yapılan “Invisible Filters” araştırması, LLM tabanlı işe alım sistemlerinin Batı merkezli dil kalıplarına göre eğitildiğini ve anadili İngilizce olmayan adayların konuşma ve cümle yapılarını yetersiz bularak otomatik olarak puanlarını düşürdüğünü belgeledi.
• Mobley v. Workday Emsal Davası: ABD’de yapay zeka destekli İK yazılımı devi Workday’e karşı açılan toplu dava (Mobley v. Workday Class Action), algoritmaların ırk, yaş ve engellilik durumuna göre sistematik ayrımcılık yaptığını öne sürüyor. Mahkeme, yapay zeka sağlayıcılarının da “işveren temsilcisi” sayılarak sorumlu tutulabileceğine hükmetti.
• Hukuki Boyut ve DergiPark Çalışması: Türkiye’deki akademik çalışmalarda da vurgulandığı üzere (Yapay Zekanın İşe Alım Süreçlerinde Kullanımı ve Algoritmik Ayrımcılık), işverenin yapay zeka arkasına saklanarak ayrımcılık yapması veya algoritmanın işverenden bağımsız ayrımcı kararlar vermesi, Anayasal eşitlik ilkesi ve iş hukuku açısından ciddi hak ihlalleri doğurmaktadır.

“Tarafsız Algoritma” İllüzyonunun Sonu

Yapay zekanın insan kusurlarını gidereceği ve işe alımları tamamen nesnel hale getireceği fikri, dijital kültürün en büyük illüzyonlarından biriydi. Princeton ve Chicago Üniversitesi’nin araştırması gösteriyor ki; daha gelişmiş ve akıl yürütme kabiliyeti daha yüksek yapay zeka modelleri kullanmak, ayrımcılığı azaltmak yerine tam tersine daha agresif kalıp yargıların oluşmasına neden olabiliyor.

Sorunun çözümü; algoritmaları tamamen serbest bırakmak veya “kendi kendine öğrensin” diyerek kenara çekilmek olamaz. Şirketlerin ve teknoloji geliştiricilerinin şu adımları atması aciliyet taşımaktadır:

1. Sürekli Algoritmik Denetim (Algorithmic Auditing): Sistemlerin kararları bağımsız etik kurullar ve denetçiler tarafından düzenli olarak test edilmelidir.
2. “İnsan Denetiminde” (Human-in-the-Loop) Çalışma: Yapay zeka hiçbir zaman tek başına eleme veya işe reddetme yetkisine sahip olmamalıdır.
3. Şeffaflık ve Veri Çeşitliliği: Adaylara, başvurularının yapay zeka tarafından değerlendirilip değerlendirilmediği bildirilmeli ve kararların gerekçesi açıklanabilmelidir (Açıklanabilir Yapay Zeka – XAI).

Aksi takdirde, verimlilik ve hız uğruna iş piyasalarını algoritmik gettolara dönüştürme ve sistemsel eşitsizlikleri yapay zeka eliyle derinleştirme riskiyle karşı karşıyayız.