Со 2 августа в Евросоюзе начнут действовать новые положения Закона об искусственном интеллекте, обязывающие компании маркировать дипфейки и иной контент, созданный или изменённый нейросетями, сообщает сайт infohub.kz.
Требования касаются как разработчиков систем ИИ, так и организаций, профессионально применяющих эти технологии. Поставщикам генеративных моделей предписано внедрять машиночитаемые метки, указывающие на искусственное происхождение изображений, аудиозаписей, видео или текста. Пользователи также должны быть предупреждены, если они общаются с чат-ботом или иным сервисом на базе ИИ.
Особенно жёсткие требования установлены для дипфейков — реалистичных изображений, аудио или видео, имитирующих внешность, голос или действия реальных людей. Их создатели и распространители обязаны чётко указывать, что контент сгенерирован или изменён ИИ. Аналогичные правила применяются к текстам, созданным ИИ на общественно значимые темы, если такие материалы публикуются без полноценного редакционного контроля. Для художественных, сатирических, юмористических и вымышленных произведений возможны смягчения, однако искусственное происхождение всё равно должно быть раскрыто в надлежащей форме.
В ЕС отмечают, что развитие генеративных технологий делает поддельные изображения, видео и аудио всё более реалистичными. ИИ-контент может применяться не только в творческих целях, но и для распространения дезинформации, политических манипуляций и создания непристойных материалов с изображением реальных лиц без их согласия. Примером служит поддельное видео 2022 года, на котором президент Украины Владимир Зеленский якобы призывал солдат сложить оружие. В 2024 году в интернете также появились откровенные фото певицы Тейлор Свифт, сгенерированные ИИ без её разрешения.
Эксперты сомневаются в эффективности новых правил на практике. Одна из проблем — отсутствие единого технического стандарта: компании применяют разные методы маркировки, такие как водяные знаки, метаданные и системы отслеживания происхождения, которые не всегда совместимы. Кроме того, цифровые метки могут быть утеряны при редактировании, сжатии или передаче через различные платформы. Ещё одна сложность — интернет-контент не ограничен границами ЕС: дипфейк, созданный за пределами союза, может быстро распространиться среди европейских пользователей. Еврокомиссия считает, что одной технологии недостаточно, и рекомендует компаниям использовать одновременно несколько методов маркировки и проверки происхождения для более надёжного выявления ИИ-контента.
Крупные разработчики ИИ, в том числе OpenAI и Google, поддержали европейские требования прозрачности и присоединились к добровольному кодексу практик. Однако представители отрасли предупреждают, что технологии генерации и обнаружения контента быстро эволюционируют, поэтому нормативные требования придётся регулярно обновлять. Сам свод практик доброволен, но выполнение статьи 50 Закона ЕС об ИИ обязательно для всех компаний, работающих на европейском рынке.