自8月2日起，欧盟《人工智能法案》新规将生效，要求企业对深度伪造及其他由神经网络创建或修改的内容进行标注，据infohub.kz网站报道。

这些要求既适用于AI系统开发者，也适用于专业应用这些技术的机构。生成式模型提供商须采用机器可读标签，标明图像、音频、视频或文本的人工来源。用户在与聊天机器人或其他基于AI的服务互动时，也需得到明确告知。

针对深度伪造——即模仿真人外貌、声音或行为的逼真图像、音频或视频，规定了更为严格的要求。其创建者和传播者必须明确指出内容由AI生成或修改。类似规则也适用于AI生成的涉及公共重要话题的文本，特别是当这些材料未经充分编辑审核即发布时。至于艺术、讽刺、幽默及虚构作品，则允许适度放宽，但仍须以适当形式披露其AI生成属性。

欧盟指出，生成式技术的发展使虚假图像、视频和音频愈发逼真。AI内容不仅可用于创作，还可能被用于传播虚假信息、政治操纵以及未经本人同意制作他人不雅影像。例如，2022年出现的一段伪造视频显示乌克兰总统弗拉基米尔·泽连斯基似乎呼吁士兵放下武器。2024年，互联网上还出现了歌手泰勒·斯威夫特的露骨照片，系未经其许可由AI生成。

专家对新规的实际效果存疑。问题之一在于缺乏统一技术标准：企业采用水印、元数据及来源追踪系统等不同标注方法，但这些方法未必互相兼容。此外，数字标签可能在编辑、压缩或跨平台传输过程中丢失。另一难点在于互联网内容不受欧盟边界限制：在欧盟以外创建的深度伪造内容可能迅速传播给欧洲用户。欧盟委员会认为，单一技术手段尚不充分，建议企业同时采用多种标注和溯源方法，以更可靠地识别AI内容。

OpenAI和谷歌等主要AI开发商已支持欧盟的透明度要求，并加入了自愿行为准则。然而，行业代表警告，内容生成与检测技术正快速演进，因此监管要求需定期更新。该准则本身是自愿性的，但欧盟《人工智能法案》第50条的执行对所有在欧洲市场运营的企业均具有强制性。