【导语微软悄然推出开源项目 Agent Governance Toolkit旨在监控和控制企业 AI 代理执行过程对应 OWASP 列出的十大自主 AI 威胁增加运行时安全层目前处于公开预览阶段。】开源项目应对 AI 安全威胁微软推出的 Agent Governance Toolkit 是一个开源项目旨在当企业将 AI 代理投入生产工作流时对其执行过程进行监控和控制。该工具包是对 OWASP 新兴的 AI 和大语言模型安全风险关注的回应对应 OWASP 列出的自主系统十大风险包括目标劫持、工具滥用等。七大组件支持多语言集成该工具包由七个组件组成支持 Python、TypeScript、Rust、Go 和 .NET 等语言。这种跨语言的方法旨在满足开发者的需求并实现跨异构企业堆栈的集成。组件包含 Agent OS 策略执行层、Agent Mesh 安全通信和身份框架等涵盖可靠性、合规性等方面。模块化设计降低集成成本该工具包采用模块化设计旨在与现有的开发生态系统协同工作。它从一开始就设计为与框架无关每个集成都会接入框架的原生扩展点如 LangChain 的回调处理程序等减少集成开销和风险使开发者能在不破坏现有工作流的情况下引入治理控制。公开预览与未来规划目前该工具包处于公开预览阶段遵循 MIT 许可证以单仓库形式构建组件可独立安装。微软未来计划将该项目转变为由基金会主导的模式并且已经与 OWASP 自主 AI 社区展开合作以支持更广泛的治理和管理。编辑观点微软的 Agent Governance Toolkit 为企业 AI 代理的安全运行提供了有力支持其多语言支持和模块化设计降低了集成成本未来发展值得期待。