Компания Anthropic впервые подробно рассказала о том, как работает встроенная система маркировки текста, генерируемого нейросетью Claude. Это нововведение внедряется для соблюдения требований закона Европейского союза об искусственном интеллекте, который обязывает помечать контент, созданный ИИ. Пользователи выразили обеспокоенность, что технология может раскрыть факт использования нейросети, однако разработчики заверили, что маркировка не повлияет на качество ответов, сообщает сайт infohub.kz.
Как пояснили в Anthropic, водяной знак формируется за счет статистического выбора слов в тех местах, где это минимально влияет на смысл текста. Для этого применяется алгоритм SynthID-Text от Google DeepMind, который оставляет математический паттерн, незаметный для обычного читателя. Чтобы распознавать такие метки, компания планирует выпустить специальный API-инструмент.
В компании также подчеркнули, что технология не увеличивает стоимость запросов и не влияет на написание программного кода. Однако полная переработка текста может полностью удалить маркировку.