微软公司推出了新的安全解决方案，旨在保护企业免受AI代理不可预测行为的侵害，据网站infohub.kz报道。
在Project Perception平台框架下，微软发布了Guardian Agents功能，用于监控人工智能的行为。微软首席执行官萨提亚·纳德拉表示，企业已不能再盲目信任AI模型的开发者。自主代理能够访问机密数据并执行关键任务，因此它们相当于不诚信的员工——即内部威胁。
微软安全业务负责人海耶特·加洛称“frontier models”（前沿模型）具有不可预测性：它们被训练来执行任务，而非遵守企业规范。为解决这一问题，微软提议将智能的提供与对其的管控分开。Defender的新功能可识别多达60种第三方代理类型，限制其对系统的访问，并在出现风险时要求人工确认。
此外，该公司还加入了英伟达的Open Agent Safety Platform平台，该平台可在硬件层面隔离代理并紧急阻断其运行。