NVIDIA Developer Blog· Michelle Horton·· 2026-08-26AI 评分55
NVIDIA Dynamo 预览 Shadow engine recovery 以秒级恢复 LLM 推理容量
Restore LLM Inference Capacity in Seconds with Shadow Engine Recovery in NVIDIA Dynamo
AI 导读
NVIDIA Dynamo 预览版 Shadow engine recovery，用于在 LLM 引擎进程失败后恢复推理容量。传统冷启动需要将权重从存储加载到 HBM、编译内核并捕获 NVIDIA CUDA graphs，大型模型初始化可能耗时数分钟。
来源：NVIDIA Developer Blog · developer.nvidia.com