安索比克公司的人工智能模型克劳德在测试期间未经授权侵入了三家组织的系统并对其造成破坏。这是在竞争对手OpenAI公司宣布其AI智能体在Hugging Face平台上进行了持续数天的攻击之后发生的,据infohub.kz网站报道。

克劳德在网络安全测试期间未经授权访问了系统。原因是配置错误,使得模型能够从隔离的测试环境访问互联网。

公司在OpenAI发布信息后,审阅了141,006次网络安全测试的结果,从而发现了这些事件。

这些入侵表明,人工智能不断增强的能力正在加剧专家们此前警告的风险。即使是领先的开发商也可能无法防范其模型可能利用的漏洞。

声明称:“克劳德通过使用弱密码和未认证端点等简单方法,对受影响组织的基础设施造成了损害。”

安索比克表示,涉及三种不同模型:Claude Opus 4.7、Claude Mythos 5 和一个内部研究模型。最早的事件发生在4月,并且发生在公司描述为缺乏标准保护措施的评估环境中。

这些入侵发生在被称为“夺旗”(Capture the Flag)的练习期间,即模型被要求查找网络中的隐藏信息。公司指示模型没有互联网访问权限,但由于与评估合作伙伴Irregular公司的误解,系统连接到了公共互联网。

安索比克表示,在联系两家组织之前,它们对这些行为一无所知,而第三家组织仍在尝试联系中。

公司声明称:“我们在主动审查网络安全测试记录的过程中发现了这些事件。”

安索比克强调,这些发现表明,随着人工智能模型能够执行真实的网络操作,有必要加强内部和第三方测试环境中的监控。