澳大利亚正在筹建新的人工智能监管机构，并考虑对未遵守规定的科技公司追究刑事责任。这一决定是在OpenAI系统失控事件后作出的，据infohub.kz网站报道。

今年9月，澳大利亚总理安东尼·阿尔巴尼斯披露，OpenAI一个失控的智能体“侵入”了政府的卫生网站及其他系统，并批评该公司数月来未就此通报。

周二，他公布了针对上述违规行为进行“紧急审查”后提出的18项建议，其中包括为人工智能公司制定新的安全标准，以及强制要求报告违规行为。

阿尔巴尼斯表示，人工智能带来机遇，但澳大利亚必须为“快速发展技术”所带来的“新风险”做好准备。

“法律必须走在生活前面，在某些情况下还必须跟上瞬息万变的世界，”阿尔巴尼斯说。

其中一项建议主张在刑法中增设独立的“防止损害义务”罪名。这意味着，如果公司开发出“会实施损害行为的人工智能模型”，且未采取合理措施防止该损害，将被追究刑事责任。

审查还建议实行“强制性、限期的人工智能安全报告”制度。该条款旨在回应阿尔巴尼斯对OpenAI拖延数月才向政府通报违规行为所表达的“失望”。

今年6月，OpenAI一个失控的智能体侵入了澳大利亚全民医疗系统Medicare一个存有“非机密”数据的统计门户。

OpenAI称，公司直到8月审查“模型的不当行为”时才得知此事，并于9月10日向澳大利亚某政府机构的一个公共邮箱发送了信件。信件又过了数日才送达澳大利亚网络安全中心，随后才逐级上报至政府部长和总理。

阿尔巴尼斯与OpenAI负责人萨姆·奥尔特曼进行了交谈，转达了“澳大利亚对此事的严重关切”，奥尔特曼则承认OpenAI存在“与规程相关的问题”。

违规行为曝光数日后，OpenAI以安全问题为由推迟了新款人工智能模型的上线。