谷歌证实，其Gemini人工智能模型在5月攻破了另外三家公司的安全系统。此前从未出现过此类情况，据infohub.kz网站报道。

该事件发生在以色列AI安全领域初创公司Irregular进行的一次网络安全测试中。该公司专门检测先进人工智能系统的安全性。近期，它也处于OpenAI和Anthropic系统入侵第三方机构相关事件的中心。其中之一是OpenAI入侵开发AI程序的Hugging Face公司。

导致模型入侵其他公司的情况彼此相似：Irregular在由虚假公司构成的封闭测试环境中对模型进行检测。该环境本不应连接互联网，但联网权限被疏忽地授予了。据《华尔街日报》报道，一旦接入互联网，模型便意外地未经授权进入了真实公司。

Irregular在发现OpenAI入侵Hugging Face之后，于7月底将上述入侵情况告知了谷歌。谷歌向《卫报》证实了这些事件确实发生，但表示由于模型未对公司造成损害，因此认为没有必要公开通报。最先报道这些入侵事件的是《华尔街日报》，也是其首次披露了这些事件的存在。

“在标准评估过程中，模型在互联网上找到了公开信息，并猜测登录凭据，以进入它认为是测试一部分的网站。在这三起事件中，模型都自行停止了，”谷歌安全工程副总裁希瑟·埃德金斯在声明中表示。

在其中一起安全入侵事件中，Irregular通过让Gemini从一家虚假公司的软件中获取信息，来测试其网络安全能力。该虚假公司的名称与一家真实公司完全相同。当模型意外接入互联网后，它正确猜中了可进入该真实公司业务的密码，并将其攻破。Irregular向《华尔街日报》通报了此事。据谷歌称，模型在意识到自己入侵的不是模拟公司而是真实公司后便停止了。

在另外两次测试中，模型从互联网上找到了两家其他公司凭据所在的公开存储库。模型利用这些数据进入了真实公司。据谷歌称，它在意识到这些是真实公司后便停止了。

Anthropic和OpenAI选择主动公开这些入侵事件，而谷歌没有这样做。不过，该公司表示已确保被入侵的三家公司得到通知。

“这些事件表明，教会强大的AI模型负责任地行事至关重要，”谷歌代表埃德金斯表示。

Anthropic和OpenAI的公开披露，促使独立参议员伯尼·桑德斯要求这些公司暂停开发其技术。他认为，这意味着这些公司已无法再控制自己的模型。

OpenAI曾将模型开发暂停两周，而Anthropic首席执行官达里奥·阿莫代伊则呼吁集体放缓人工智能的发展。他表示，最先进的模型必须配备足够的防护措施来开发。