DeepSeek开源DeepInfer推理框架

DeepSeek开源了推理框架DeepInfer，用于把模型调用与算力集群调度纳入AI服务链路；DeepInfer不是模型，而是负责连接模型调用和集群算力调度的中间层。 据报道，DeepSeek称该框架的效率会影响大规模调用时的算力成本和电费，但现有报道未说明其具体效率、开源许可或适用范围。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。