跳到正文
NVIDIA Developer Blog· Ekin Karabulut·· 2 小时前AI 评分45

Agent Substrate:面向大规模 Agent 场景推进 Kubernetes

Agent Substrate: Advancing Kubernetes for Agents at Scale

AI 导读

NVIDIA 开发者博客介绍 Agent Substrate,一个针对 AI Agent 大规模运行改进 Kubernetes 的项目,现已捐赠出去(受赠方原文未完整给出)。AI Agent 大部分时间处于空闲等待状态,逐会话运行 Pod 会占用闲置内存,而轮次间删除 Pod 又带来多秒冷启动并丢失状态,RL 后训练同样面临此问题。

来源:NVIDIA Developer Blog · developer.nvidia.com