微软警示前沿 AI 模型不可信 推出 Guardian Agents 防护方案
1 小时前

微软近日推出多项全新安全功能,助力企业应对日益严峻的智能体安全威胁。其中,感知项目下的守护智能体备受瞩目,它负责监控企业内部各类AI智能体的运行。微软指出,AI威胁可能源自企业自身部署的智能体,这些智能体行为难以预测且常拥有高权限,一旦失控将带来严重后果。为此,微软建议企业搭建独立系统,以监督管控第三方智能体,实现智能能力供给与管控权限的分离。尽管此举涉及对微软投资合作的AI厂商产品的警惕,但符合审计独立原则,也体现了微软的商业考量,即向企业推广自家的智能体安全产品。此外,微软还在Microsoft Defender中新增了智能体检测、权限动态调整及高风险操作人工审批等功能。当前,将智能体视为不可信任的内部威胁正逐渐成为行业共识。微软作为创始成员参与的英伟达开放智能体安全平台已获众多科技企业支持。此前,微软还推出了搭载英伟达芯片、内置智能体安全管控模块的笔记本电脑。

简体中文 English