跳到正文
原文
vLLM 官方发布· MatthewBonanni·· 13 小时前AI 评分35

v0.32.0rc0:HiSparse 在 KV 缓存容量日志中报告主机池

v0.32.0rc0: [HiSparse] Report host pool in KV cache capacity logs (#60285)

AI 导读

v0.32.0rc0 的 HiSparse 变更使 KV 缓存容量日志能够报告主机池。该 GitHub 提交附带 2 项资源,并由 Matthew Bonanni 签署、Claude Opus 5.5 联合署名;原文未提供更具体的功能说明。

来源:vLLM 官方发布 · github.com