InfoQ· Edoardo Vacchi·· 13 小时前AI 评分60
InfoQ 播客:Edoardo Vacchi 谈基于 Kubernetes 的 llm-d 分布式 LLM 推理、Wasm 与 TornadoVM
Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVM
AI 导读
InfoQ 播客邀请 Red Hat 工程师 Edoardo Vacchi 讲解 llm-d 项目如何在 Kubernetes 集群上做分布式 LLM 推理。
来源:InfoQ · infoq.com