淘宝MNN团队开源0.3B手机端模型MNN-Pocket

淘宝MNN团队发布并开源了约3亿参数的手机端语言模型MNN-Pocket-0.3B，重点支持中英文。据团队实测，该模型在iPhone 18 Pro上通过MNN推理引擎完全离线运行，平均解码速度约350 token/s。 团队提供了多个版本：Base版面向继续预训练与基础能力研究，SFT版面向后训练与蒸馏等研究，通用版用于指令调用与业务适配；另有W4A16 QAT量化部署版，配合MNN低比特算子和硬件优化，在特定设备上解码吞吐可达466 token/s。

AI 根据报道生成 · 48 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。