Google DeepMind Blog·· 2026-06-16AI 评分52
Google 发布 AI Control Roadmap,强化内部 AI 代理安全控制
Securing the future of AI agents
AI 导读
Google 发布 AI Control Roadmap,通过将内部 AI 代理视为潜在“内部威胁”,建立基于威胁建模、可信 AI 监督和分级响应的多层安全体系。团队已分析一百万条 coding agent 任务轨迹,并将数据用于 Gemini Spark agent 的实时监测;文章还发布了面向政策制定者的《Three Layers of Agent Security》技术框架。
来源:Google DeepMind Blog · deepmind.google