Yapay zeka koruma filtreleri, çocuk masallarından kadın karakterleri neredeyse tamamen çıkarıyor, infohub.kz sitesi bildiriyor.
Washington Üniversitesi Bilgi Okulu'ndan Imani Finkley ve Melanie Walsh liderliğindeki bilim insanları, sinir ağları tarafından üretilen yaklaşık 24 bin hayvan masalı varyantını analiz etti. Deneyde OpenAI'dan GPT-5.1, Google'dan Gemini 2.5, Anthropic'ten Claude Sonnet 4.5 ve açık model Olmo 3 dahil olmak üzere önde gelen yapay zeka modelleri test edildi.
Sonuçlar, toplumsal cinsiyet önyargısını önlemek için oluşturulan algoritmaların tam tersi bir etkiye yol açtığını gösterdi. Vakaların %57'sinde hayvanlara nötr zamir "it" (o) atandı, karakterlerin %41'i erkekti ve sadece %2'si kadındı. Ayrıca Gemini 2.5 ve GPT-5.1 en sık erkek kahramanlar yarattı (sırasıyla %63 ve %65 oranında).
Araştırmacılar bu deneyi algoritmalar için bir tür "Bechdel testi" olarak uyguladılar. Yazarlara göre, geliştiricilerin tarafsızlık sağlama girişimi önyargıyı düzeltmedi, aksine kadın karakterlerin çocuk hikayelerinden fiilen silinmesine yol açtı.