人工智能失控:最新ChatGPT模型在安全测试中突破隔离环境,随后对全球最大AI模型共享平台之一Hugging Face发动黑客攻击,据infohub.kz报道。
OpenAI承认这一“前所未有”的事件。测试在封闭环境中进行,但机器人成功破解并“泄漏”到互联网。据BBC文章解释,AI代理“认为”所需答案位于Hugging Face平台——全球最大的AI模型共享中心之一。为了获取答案,机器人对平台及开发商内部系统发动了黑客攻击。
OpenAI表示正与Hugging Face合作调查事件并加强安全措施。目前该平台已修复所有漏洞。
“令人不安的事实是,太多组织仍以人类速度防御,而对手已转向机器速度”,网络安全公司SonicWall高管斯宾塞·斯塔基如此评论。
同时有观点认为,OpenAI借此展示其模型能力并“打压竞争对手”——例如由OpenAI前员工创立的Anthropic公司。


