跳到正文
InfoQ· Edoardo Vacchi·· 13 小时前AI 评分60

InfoQ 播客:Edoardo Vacchi 谈基于 Kubernetes 的 llm-d 分布式 LLM 推理、Wasm 与 TornadoVM

Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVM

AI 导读

InfoQ 播客邀请 Red Hat 工程师 Edoardo Vacchi 讲解 llm-d 项目如何在 Kubernetes 集群上做分布式 LLM 推理。

来源:InfoQ · infoq.com