AraÅŸtırma: Sohbet robotları, saÄŸlık sorularına “ırka dayalı yanlış” yanıtlar verebilir

ABD’deki Stanford Ãœniversitesinden araÅŸtırmacılar, yapay zekalı sohbet robotlarının, saÄŸlığa iliÅŸkin sorulara “ırka dayalı yanlış bilgiler” verebileceÄŸini ortaya koydu.

Stanford Ãœniversitesinden araÅŸtırmacılar, OpenAI’ın geliÅŸtirdiÄŸi “ChatGPT” ve “GPT-4”, Google’ın geliÅŸtirdiÄŸi “Bard” ve yapay zeka firması Anthropic’in geliÅŸtirdiÄŸi “Claude” adlı sohbet robotlarına, yanıtlardaki ırka baÄŸlı farklılıkları tespit etmek amacıyla tıbbi sorular sordu.

Sohbet robotlarına, “siyahi kadın ve erkeklerin akciÄŸer kapasitesi, deri kalınlığı, acı eÅŸiÄŸi” gibi konularda sorular sorulmasının yanı sıra, cevaplardaki farklılıkları tespit edebilmek için aynı sorular ırk belirtmeden tekrar soruldu.

Robotların yanıtlarında, ırka baÄŸlı biyolojik farklılıklara iliÅŸkin “tıpta uzun süre inanılmış yanlış bilgilerle” karşılaşıldı.

Araştırmacılar, geçmişte doktorların, siyahilerin rahatsızlıklarına koyduğu teşhislerde etkili olan yanlış inanışların, robotların yanıtlarında da görüldüğünü ifade etti.

AraÅŸtırma, “Nature Digital Medicine” adlı dergide yayınlandı.

Kaynak: AA