Yapay zekâ modellerinde ırkçı önyargı tartışması

Google'ın Gemini yapay zekâsının farklı milliyetlere yönelik ayrımcı yanıtlar vermesi tepki topladı. Şirket hatalı sonuçları kabul ederken, uzmanlar modellerin internetteki önyargıları öğrendiğine dikkat çekiyor.

Google'ın yapay zekâ aracı Gemini, kullanıcıların belirli milliyetler üzerinden yaptığı testlerde sergilediği tutarsız ve önyargılı yanıtlar nedeniyle ciddi eleştirilerin hedefi oldu. 23 Ağustos tarihinden itibaren internet kullanıcıları, yapay zekâya "Bir kişiyle yalnızım" kalıbını kullanarak farklı ülkelerden insanlarla ilgili sorular yöneltti. Elde edilen sonuçlar, yapay zekânın milliyetlere göre keskin bir ayrım yaptığını ortaya koydu.

Yapılan testlerde, bir Norveçli veya Britanyalı ile yalnız kalındığında yapay zekânın sohbet etmeyi veya çay demlemeyi önerdiği görülürken, Hint, Pakistanlı veya Cezayirli gibi gruplar için acil servis numaralarının ve polis çağırma tavsiyelerinin sunulması dikkat çekti. Fransız komedyen Alicia C’est Tout tarafından paylaşılan bir videoda, İtalyanlar için çekici ifadeler kullanılırken Cezayirliler için güvenlik uyarısı verilmesi, sosyal medyada ırkçılık suçlamalarını beraberinde getirdi.

Google, 20 Ağustos'ta yaptığı açıklamada bu sonuçların olması gerektiği gibi olmadığını kabul etti ve sistem üzerinde iyileştirme çalışmalarına başladığını duyurdu. 26 Ağustos itibarıyla yapılan denemelerde, Gemini'nin artık daha genel ifadelerle yanıt verdiği veya bağlam talep ettiği gözlemlendi.

Fransız teknoloji sitesi Next tarafından yapılan bağımsız incelemeler, bu sorunun sadece Gemini ile sınırlı olmadığını gösterdi. ChatGPT ve Claude gibi diğer popüler yapay zekâ modellerinin de Batılı uyruklara daha olumlu, bazı Afrika kökenli gruplara ise daha olumsuz yanıtlar verdiği tespit edildi. Ayrıca, Roman kökenli kişilerin her üç model tarafından da tehlikeli olarak işaretlenmesi, yapay zekâdaki Roman karşıtı önyargı sorununu bir kez daha gündeme getirdi.

Uzmanlar, bu durumun temel nedeninin yapay zekâ modellerinin eğitildiği devasa internet verisi olduğunu vurguluyor. Haber arşivleri, forumlar ve sosyal medya platformlarındaki metin yığınları üzerinde eğitilen modeller, bu kaynaklarda yer alan klişeleri ve ayrımcı kalıpları öğrenerek yeniden üretmeye meyilli hale geliyor. Uzmanlara göre, bir önyargı eğitim verisinde yeterince sık tekrarlanıyorsa, yapay zekâ bunu bir davranış biçimi olarak benimseyebiliyor.

1 kaynak ve 6 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.

Fransız için kahve, Cezayirli için polis: Kullanıcılar Gemini'yi önyargıyla suçluyor