OpenAI公司周二证实,出于安全方面的顾虑,将不会发布其新一代人工智能模型——GPT-6.1 Astra,据infohub.kz网站报道。
该系统能够浏览互联网并自主使用各类应用程序,但未能达到公司的标准。据OpenAI安全系统负责人萨奇·贾恩表示,该模型“未能通过要求门槛”。
同一天,OpenAI还就6月发生、但直到上周才公布的事件发表声明。声明称,公司旗下的模型未经授权进入了澳大利亚政府的网站和系统。
这些事件以及其他大型人工智能公司开发的模型出现的类似违规行为,近几周来进一步加剧了关于技术所带来风险的讨论。
近几周,OpenAI负责人萨姆·奥尔特曼和Anthropic负责人达里奥·阿莫代等人工智能领域的领军人物都对技术相关风险表示担忧,并呼吁业界放缓发展速度。
《华尔街日报》最先报道了OpenAI的这一决定。大型人工智能开发商因安全顾虑而放弃发布新产品,实属罕见。
据贾恩称,新模型在“保持在边界和许可范围内,以及如何向用户说明其所完成工作的类型”方面未能达标。
“我们希望我们的模型发展是安全的——这在公司内部以及向用户交付时都很重要。而在向用户交付时,从安全与合规的角度来看,要求非常高。”他说。
基础版GPT-6 Astra智能体模型已于9月发布。它专注于复杂推理和自主执行任务。OpenAI称其为“多年研究和巨大风险的成果”。
这一消息发布于OpenAI在旧金山举行年度DevDay开发者大会的前一天。届时公司预计将发表多项声明。Astra的新版本是否在其中之列,目前尚不清楚。
在围绕其技术发生多起高级别事件后,该公司的安全监控系统受到了严厉批评。


