Yapay zeka destekli işe alım süreçlerinde ayrımcılık endişesi

İngiltere'de yapay zeka tabanlı işe alım sistemlerinin etnik azınlıklar üzerinde ayrımcı etkiler yarattığına dair endişeler artıyor. Uzmanlar ve parlamenter komiteler, mevcut yasal boşlukların giderilmesi için acil denetim ve düzenleme çağrısında bulunuyor.

İngiltere'de işe alım süreçlerinde yaygınlaşan yapay zeka destekli otomatik eleme sistemleri, etnik azınlık mensubu adaylar için ciddi bir ayrımcılık riski oluşturuyor. İngiltere Parlamentosu bünyesindeki İnsan Hakları Ortak Komitesi (JCHR), mevcut yasal çerçevenin yapay zekanın yarattığı insan hakları risklerini karşılamada yetersiz kaldığını belirterek, kapsamlı bir yasal düzenleme yapılması gerektiğini vurguladı.

People Like Us ve Censuswide tarafından 2 bin kişiyle gerçekleştirilen araştırma, işe alım yazılımlarının adaylar üzerinde belirleyici bir güç haline geldiğini ortaya koydu. Araştırmaya katılanların yüzde 74'ü, başvurularının bir insan tarafından incelenmeden otomatik sistemler aracılığıyla reddedildiğinden şüphe duyuyor. Özellikle etnik azınlık mensubu adaylar, beyaz adaylara kıyasla daha hızlı ve daha yüksek oranlarda ret yanıtı alıyor. Verilere göre, etnik azınlık adayların yüzde 41'i başvurularından sonraki bir saat içinde ret cevabı alırken, beyaz adaylarda bu oran yüzde 32'de kalıyor.

Otomatik eleme korkusu, iş arayanların davranışlarını da değiştiriyor. Adayların yüzde 60'ı, sistem tarafından elenmemek için öz geçmişlerindeki bilgileri gizlemek veya değiştirmek zorunda kaldığını belirtiyor. Bu oran etnik azınlık adaylar arasında yüzde 70'e kadar çıkıyor. Ayrıca adayların yüzde 66'sı, yazılımları kandırmak için ChatGPT gibi araçlar kullandığını veya öz geçmişlerine gizli anahtar kelimeler eklediğini ifade ediyor.

Glasgow Üniversitesi'nden Dr. Mark Wong, parlamentoya sunduğu raporda yapay zeka sistemlerinin ırksal ön yargıları otomatikleştirme potansiyeline dikkat çekti. Raporda, teknik çözümlerin tek başına yeterli olmayacağı, bağımsız denetim ve toplumsal katılımın şart olduğu belirtildi. İşverenlerin büyük bir kısmının kullandıkları sistemlerin sonuçlarını etnik köken bazında izlemediği, bu durumun ise mevcut sosyal eşitsizlikleri daha da derinleştirdiği ifade ediliyor. Uzmanlar, işverenlerin otomasyon süreçlerinde şeffaf olması ve adaylara insan incelemesi hakkı tanıması gerektiğini savunuyor.

1 kaynak ve 5 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.

Yapay zeka odaklı işe alım sistemleri etnik azınlıkları "orantısız şekilde" etkiliyor

Tek dokunuşla tepkinizi paylaşın. Seçiminize yeniden basarsanız tepkiniz kaldırılır.