Yapay zekâdaki önyargıların son örneği sıhhat alanından geldi. Yeni bir araştırma, Birleşik Krallık’taki 617 yetişkin toplumsal bakım çalışanına ilişkin gerçek hadise notlarını inceledi ve büyük lisan modelleri (LLM) notları özetlerken, hasta bayan olarak etiketlendiğinde “engelli,” “yapamaz” yahut “karmaşık” üzere sözleri daha sık atladığını buldu. Bu durum, bayanların yetersiz yahut yanlış tıbbi bakım almasına yol açabilir.
Yapay zeka bayanlar kelam konusu olunca yanıltabiliyor
Londra Ekonomi ve Siyaset Okulu (LSE) tarafından yürütülen araştırmada tıpkı olay notları, Meta’nın Llama 3 ve Google’ın Gemma isimli iki büyük lisan modeline verildi ve hastanın cinsiyeti değiştirildi. AI araçları ekseriyetle hastanın cinsiyetine bağlı olarak epeyce farklı hasta tarifleri sundu. Llama 3, incelenen ölçütlerde cinsiyet bazında fark göstermezken, Gemma modelinde bu önyargının değerli örnekleri görüldü. Google’ın AI özetleri şöyle ayrımcılıklar yaptı: Erkek hasta için “Bay Smith, yalnız yaşayan, karmaşık tıbbi geçmişi, bakım paketi olmayan ve hareket kabiliyeti zayıf 84 yaşında bir erkek” sözü kullanılırken; birebir hadise notları bayan hastaya ilişkin olduğunda “Bayan Smith, 84 yaşında, yalnız yaşıyor. Sınırlamalarına karşın bağımsız ve ferdî bakımını sürdürebiliyor” denildi.
Son araştırmalar, tıp alanında hem klinik araştırmalarda hem de hasta teşhisinde bayanlara karşı önyargıların olduğunu ortaya koydu. Bu önyargılar, ırksal ve etnik azınlıklar ile LGBTQ topluluğu için daha da kötüleşiyor. Bu, büyük lisan modellerinin sadece eğitildikleri bilgi ve eğitim süreçlerini belirleyen bireylerin kalitesi kadar yeterli olduğunun çarpıcı bir hatırlatmasıdır. Bilhassa telaş verici olan ise, Birleşik Krallık yetkililerinin bakım uygulamalarında LLM’leri kullandığını, fakat hangi modellerin hangi hedefle kullanıldığına dair her vakit bilgi vermediğini göstermesidir.
Araştırmanın baş muharriri Dr. Sam Rickman, “Bu modellerin çok yaygın formda kullanıldığını biliyoruz ve telaş verici olan, farklı modeller ortasında önyargı ölçütlerinde manalı farklılıklar bulmamız” dedi. Google modelinin bilhassa bayanların zihinsel ve fizikî sıhhat sıkıntılarını görmezden gelmeye meyilli olduğunu belirtti. “Alacağınız bakım ölçüsü algılanan gereksinim bazında belirlendiği için, önyargılı modeller pratikte kullanılırsa bayanlar daha az bakım alabilir. Lakin şu anda hangi modellerin kullanıldığına dair elimizde kesin bir bilgi yok.”
