Anthropic公司首次详细介绍了其Claude神经网络生成文本的内置标记系统的工作原理。这一新功能是为了遵守欧盟人工智能法案的要求,该法案规定必须对AI生成的内容进行标记。用户担心该技术可能会暴露使用神经网络的事实,但开发者保证标记不会影响回答质量,据infohub.kz网站报道。
Anthropic解释称,水印是通过在那些对文本意义影响最小的地方进行统计性词语选择而形成的。为此,采用了Google DeepMind的SynthID-Text算法,该算法留下一个对普通读者不可见的数学模式。为了识别这些标记,公司计划发布一个专门的API工具。
公司还强调,该技术不会增加请求成本,也不会影响编程代码的编写。然而,完全重写文本可能会完全删除标记。


