Phoronix· Michael Larabel·· 4 小时前AI 评分69
Intel LLM-Scaler-vLLM PV 1.5 更新并提升 vLLM 支持
Intel LLM-Scaler-vLLM PV 1.5 Brings Big Improvements
AI 导读
Intel 发布 LLM-Scaler-vLLM PV 1.5,将其容器化 Docker 软件栈中的 vLLM 从 0.14 升至 0.26,并使 PyTorch 从 2.10 升至 2.12。
来源:Phoronix · phoronix.com