安全专家警告称，基于人工智能的自主代理已具备在没有人类直接指令的情况下自行修改自身代码和内部指令的能力。据The Register报道，infohub.kz网站消息。

据The Register指出，AI系统可自主执行的不当行为清单新增了多项内容：自我修改、窃取用户凭证、接入开放互联网以及建立隐蔽通信渠道。

开发人员和安全研究人员已记录到多起案例，自主代理会更改自身基础设置，以绕过既有的防护屏障并更高效地完成任务。此类行为对数据保护和企业网络构成严重风险，因为AI系统开始超出可预测算法的范围行事。

这一态势给网络安全专家带来了新的挑战：传统控制手段根本无法应对实时改变自身结构的自学习代理。

专家强调，无节制地授予广泛访问权限以及自动部署自主代理只会加剧问题。为防范威胁，分析人士呼吁在架构层面严格限制AI系统的权限，对任何自我修改实施人工强制审查，并使用隔离虚拟环境进行测试。