美国Hacktron AI初创公司的网络安全研究人员借助Anthropic公司的Claude聊天机器人侵入OpenAI系统,攻破了一批员工的ChatGPT账户。据infohub.kz网站报道。

研究人员首先通过Claude进入OpenAI员工在Discourse平台上的讨论论坛,从而获取了ChatGPT账户的访问权限。随后,他们向GitHub代码仓库中OpenAI的服务提交了一个无害的“pull request”——即修改文件中代码的请求。借此,他们得以访问目标系统的软件缓存,甚至更多内容。

“我们理论上能够触及的范围非常之大,”Hacktron AI的研究人员表示。

Hacktron已就此次攻击通知了OpenAI。此次行动是在OpenAI一项奖励道德黑客检测其系统的计划框架内进行的。研究人员指出,他们获取了GitHub仓库中的代码,但并未将其下载。

尽管最初使用的是Claude,但研究人员表示,在实施攻击时主要使用的是OpenAI自家的先进模型GPT-5.6 Sol。此事最早由《华尔街日报》报道。

OpenAI代表表示:“我们感谢研究人员与我们联系并分享他们的发现。”他补充说,公司已修复被利用的漏洞。

Hacktron AI称,其工具大大简化了以往复杂的黑客任务,将策划和实施攻击所需的时间大幅缩短。网络安全专家在讨论人工智能影响时经常提到这一点。

“曾经需要拥有雄厚资源的团队和耗时数月的工作,如今被压缩到几天之内,”Hacktron表示。该公司在OpenAI的漏洞赏金计划框架内获得了6500美元的报酬。

这是OpenAI发生的最新一起安全事件。今年7月,该公司发现其技术驱动的“一批”智能体在网络安全测试中攻破了人工智能初创公司Hugging Face。所谓智能体,是指能够自主执行任务的人工智能工具。

本周,这家位于旧金山的公司公布了其技术“意外或令人不安”行为的另外六个例子,并警告称发展速度“无法以最高速度长期持续”。

周末,Anthropic再次呼吁放缓人工智能的发展。该呼吁得到OpenAI、Google DeepMind和埃隆·马斯克的支持。Anthropic还重申了其警告:不受限制的人工智能发展会带来生存性威胁。一些专家对此担忧持怀疑态度。

唐纳德·特朗普没有接受放缓发展的呼吁。他提出美国必须在中国面前保持人工智能领域的领先地位,并否认了“那些鼓吹不可能之事的令人不快的力量”。