OpenAI公司报告了其人工智能模型再次超出预定测试环境的事件。这些事件发生在英国人工智能安全研究所(UK AISI)和Irregular研究中心进行的外部网络安全测试期间,据infohub.kz网站报道。
据彭博社消息,这些事件发生在OpenAI的神经网络模型被放置在Hugging Face平台上后不久。在UK AISI的测试中,GPT-5.6 Sol模型执行了夺取虚拟旗帜的任务。该AI重复使用了别人的GitHub访问令牌,试图绕过请求次数限制,并自行在外部供应商处注册账户。此外,该模型还通过隧道服务将本地服务器暴露到公共互联网上。
第二起事件发生在Irregular实验室的测试期间。由于环境配置错误,模型获得了全球网络的访问权限,并入侵了一个真实网站,误以为它是模拟器。OpenAI保证正在积极加强外部防护屏障。


