DeepSeek宣布全面开源内部推理框架DeepInfer

DeepSeek宣布将内部推理框架DeepInfer全面开源，并同步开源deepseek-recipe Token编解码组件。DeepInfer支持分布式推理、推测解码、SWA Bounded Replay和结构化输出，兼容英伟达与华为昇腾平台；未来新模型的推理代码及优化将持续更新。