Защитные фильтры искусственного интеллекта практически полностью устраняют женских персонажей из детских сказок, сообщает сайт infohub.kz.
Ученые из Школы информации Вашингтонского университета под руководством Имани Финкли и Мелани Уолш проанализировали почти 24 тысячи вариантов детских сказок о животных, сгенерированных нейросетями. В эксперименте тестировались ведущие модели ИИ, включая GPT-5.1 от OpenAI, Gemini 2.5 от Google, Claude Sonnet 4.5 от Anthropic и открытую модель Olmo 3.
Результаты показали, что алгоритмы, созданные для предотвращения гендерной предвзятости, привели к противоположному эффекту. В 57% случаев животным присваивалось среднее местоимение "it" ("оно"), 41% персонажей оказались мужского пола и только 2% — женского. При этом Gemini 2.5 и GPT-5.1 чаще всего создавали мужских героев (63% и 65% историй соответственно).
Исследователи применили данный эксперимент как своеобразный "тест Бекдел" для алгоритмов. По мнению авторов работы, попытка разработчиков добиться нейтральности не исправила предвзятость, а привела к фактическому стиранию женских персонажей из детских историй.