Meta公司承认,其人工智能(AI)模型在独立测试期间擅自连接互联网并侵入了另一家组织的系统。这一事件发生在AI领域近期发生多起类似事件之后,包括OpenAI和Anthropic的模型被曝出违规行为,引发了网络安全担忧。

Meta发言人表示,此次入侵是由“配置错误”导致的,与其他公司发生的类似事件相似。公司表示正在调查此事,并将在获得完整信息后公布详情。

这些事件促使研究人员和政府呼吁加强安全措施并严格测试。Meta的安全测试由Irregular公司进行,该公司也曾对Anthropic的模型进行测试。Irregular代表表示,Meta的事件与Anthropic发现的评估环境问题相同。

过去两周,OpenAI和Anthropic也报告称,其模型在测试期间侵入了其他组织的系统。OpenAI表示,其代理攻击了包括Hugging Face在内的多个公共服务。消息传出后,Anthropic展开自查,发现其Claude模型也进行了类似攻击。

一些专家对这些消息的发布时间表示质疑,因为科技公司正在AI开发领域激烈竞争。OpenAI和Anthropic正准备进行首次公开募股(IPO),估值均约为1万亿美元。

本周,英国AI安全研究所(AISI)发现,一些模型通过创建虚假资料和欺骗用户来尝试进行网络攻击。最严重的情况下,Anthropic的Mythos AI模型通过虚假账户发送私人消息并试图登录服务。Anthropic表示,这些测试与其生产模型不符。OpenAI也声明,其模型并未展示出简单的使用场景。