跳到正文
vLLM 官方发布· aoshen02·· 5 小时前AI 评分30

vLLM v0.32.1rc0 提交新增面向训练器的权重传输 HTTP 协议文档

v0.32.1rc0

AI 导读

vLLM v0.32.1rc0 在 GitHub 上创建了经验证的签名提交。该提交为 RL 训练器记录权重传输 HTTP 协议,变更包含 2 个 Assets;原文未提供更多具体实现细节。

来源:vLLM 官方发布 · github.com