YAPAY ZEKANIN GİZLİ ÖN YARGISI: SAĞLIK SORUNLARI GÜNLÜK SENARYOLARDA DAMGALAMAYA YOL AÇIYOR!

Yapay zeka teknolojilerinin ve büyük dil modellerine dayalı sohbet robotlarının sağlık hizmetlerindeki rolü her geçen gün artıyor. Ancak bu modellerin eğitildikleri verilerdeki toplumsal ön yargılardan etkilenmesi, etik ve tıbbi açıdan ciddi endişeleri beraberinde getiriyor. Eğitim verilerinde yer alan etnik köken, cinsiyet veya coğrafi unsurlara dayalı kalıp yargıların yanı sıra, belirli sağlık durumlarına yönelik toplumsal damgalamalar da modellerin yanıtlarına sinsi bir şekilde yansıyabiliyor. Nature Health’te yayımlanan kapsamlı bir araştırma, yaygın olarak kullanılan büyük dil modellerinin HIV, hepatit B ve şizofreni gibi ruhsal hastalıklara sahip bireylere karşı nasıl örtük ön yargılar barındırdığını ilk kez bu denli net bir şekilde gözler önüne serdi.

İki Aşamalı Zorlu Sınav: Standart Testler ve Gerçek Yaşam Senaryoları

Araştırmacılar; aralarında ChatGPT, Grok ve Claude’un da yer aldığı, dünya genelinde en çok tercih edilen altı büyük dil modelini iki farklı aşamada titiz bir incelemeye tabi tuttu.

İlk aşamada, insanlardaki sağlık damgalamalarını ölçmek amacıyla kullanılan küresel standart anketler modellere uygulandı. Yapay zeka modellerinin bu testlerdeki yanıtları, aynı soruları yanıtlayan 56 binden fazla insanın verileriyle kıyaslandı. Standart test sonuçlarına göre yapay zekanın insanlardan çok daha düşük damgalama puanı aldığı ve son derece objektif, ön yargısız bir duruş sergilediği görüldü.

Ancak araştırmanın ikinci aşaması olan gerçek yaşamı taklit eden bağlamsal değerlendirmelerde tablo tamamen değişti. Bu aşamada, günlük hayattan kesitler sunan 51 adet açık uçlu hikaye senaryosu yazıldı ve modellerden bu hikayelerin nasıl devam edeceğini tahmin etmeleri istendi. Deneylerdeki tüm parametreler ve detaylar tamamen aynı tutulurken, sadece ana karakterlerin sağlık durumları sistematik olarak değiştirildi. Sağlıklı olarak tanımlanan bir karakter, sonraki denemelerde sırasıyla şizofreni, HIV veya hepatit B tanısı olan bir bireye dönüştürüldü.

İngilizce ve Çince dillerinde yürütülen bu süreçte, modellerin ürettiği toplam 61 bin 200 karar detaylıca analiz edildi. Sadece sağlık durumu bilgisinin değişmesinin, karakterlerin yapay zeka tarafından ne kadar güvenilir veya sempati uyandıran figürler olarak kurgulanacağını doğrudan etkilediği belirlendi.

Hastalık Türüne Göre Farklı Davranış Kalıpları Üretildi

Standart testlerde kusursuz bir eşitlikçilik sergileyen modellerin, iş günlük senaryoları tamamlamaya geldiğinde karakterleri sağlık durumlarına göre açıkça ayrıştırdığı tespit edildi. Ön yargılı tutumların en belirgin şekilde ruhsal hastalığı, HIV veya hepatit B'si bulunan karakterlerde yoğunlaştığı saptandı.

Modellerin ürettiği hikaye sonlarında, HIV ve ruhsal hastalıklara sahip karakterlerin sıklıkla bir "tehlike" unsuru olarak sunulduğu ya da bu kişilerden uzak durulması gerektiği fikrinin işlendiği görüldü. Buna karşın, sırt ağrısı veya yüksek tansiyon gibi fiziksel rahatsızlıkları olan karakterlere karşı daha çok acıma duygusunun ön plana çıktığı ya da bu kişilerin yetersiz/iş göremez olduğu yönünde kalıp yargıların üretildiği belirlendi.

Komut Dili Ön Yargıyı Doğrudan Etkiliyor

Araştırmada dikkat çeken bir diğer unsur ise modellere verilen komutların dili oldu. Çince girilen komutların, özellikle ruh sağlığıyla ilişkili senaryolarda İngilizce komutlara kıyasla toplumsal damgalama ve kalıp yargılarla çok daha paralel yanıtlar ürettiği gözlemlendi. Diğer taraftan, modellerden doğrudan yanıt vermeden önce adım adım akıl yürütmeleri (düşünme payı bırakılması) istendiğinde, üretilen yanıtlardaki ön yargı oranının dikkat çekici derecede azaldığı saptandı.

Çözüm İçin Dokuz Strateji Önerisi

Yapay zekanın bu sinsi ön yargılarını en aza indirmek adına araştırma ekibi dokuz temel strateji belirledi. Bu çözüm yollarının başında; modele, bir kişiyi sadece tıbbi tanısıyla tanımlamak yerine kişisel özelliklerine odaklanması talimatının verilmesi geliyor. Ayrıca yapay zekaya, yerine getirdiği görevle doğrudan ilgisi olmadığı sürece karakterin sağlık geçmişini tamamen göz ardı etmesi yönünde kesin komutlar girilmesi gerektiği belirtiliyor.

Uzmanlar, sağlık kurumlarına özel olarak hazırlanmış güvenli yapay zeka komut araç setleri sunulmasının farklı dillerdeki damgalayıcı yanıtları önleyebileceğini ifade ediyor. Son olarak, tıp ve sağlık alanında yapay zeka yazılımları geliştiren teknoloji şirketlerinin, ürünlerini piyasaya sürmeden önce gerçek yaşamı yansıtan bağlamsal senaryolarla kapsamlı bir ön yargı denetiminden geçirmeleri gerektiği önemle vurgulanıyor.