玩家用二手二代Optane内存无GPU跑通Kimi K3

一名Reddit homelab爱好者用已停产的英特尔第二代Optane PMem 200持久内存，搭配40核第三代Xeon Scalable CPU，在无GPU条件下本地运行了Moonshot AI的2.8万亿参数Kimi K3模型，采用1-bit量化，速度约0.85 tokens/s。 该模型的社区最小量化版本也需要至少610GB内存，这正是用大容量Optane扩展容量的原因。机器发热明显，构建者建议将DIMM主动散热视为必需；披露的性能数字未做线程数或NUMA亲和性调优。构建者计划后续加装GPU，并把部分模型加载到DRAM作为更快的层级。

AI 根据报道生成 · 22 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。