Tom’s Hardware· Shane Downing ·· 2 小时前精选AI 评分77
Google TPUs通过PyTorch原生推理引擎在Meta数据中心投入生产
Google’s TPUs for AI workloads now run in Meta's data centers
AI 导读
Google、Meta与SGLang团队合作推出PyTorch原生的SGLang-TorchTPU，现已在Meta生产环境运行AI推理。匹配版本vLLM-TorchTPU也以开源形式发布，减少现有PyTorch工作负载迁移到TPU所需的改写。文中还披露了基于第七代Ironwood TPU的Kimi K3推理测试结果，以及后续模型支持计划。
推荐理由
揭示PyTorch工作负载在Meta生产环境中的TPU部署路径及开源推理适配，有助于评估软硬件解耦与多架构部署的实际进展。
来源：Tom’s Hardware · tomshardware.com