NVIDIA Blog· Saša Zdjelar·· 12 天前AI 评分53
如何解决 AI 智能体技术栈各层的安全工程问题
AI Security Is an Engineering Problem — How to Solve It at Every Layer of the Agent Stack
AI 导读
AI 智能体安全需要覆盖完整技术栈,以可执行边界、明确责任人和防护有效性证据约束模型、harness 与运行环境。文章建议配置受限身份和凭据、沙箱、访问策略、人工审批、受保护日志及事故处置流程,并在模型、工具或工作流发生重大变化后重复安全测试。文中还将 NVIDIA OpenShell 描述为在智能体权限之外执行策略并提供沙箱运行的开源安全运行时。
来源:NVIDIA Blog · blogs.nvidia.com