开源中国资讯·· 4 天前AI 评分42
Jeff 开源发布:22 毫秒完成一次决策的 0.8B 小模型,微调后在 benchmark 上逼近 Jev
Jeff 开源发布:22 毫秒出一次决策的小模型、0.8B 微调在 benchmark 上逼近 Jev
AI 导读
Jeff 开源发布了一个面向快速决策的 0.8B 小模型,基于 Qwen3.5 和 Gemma 4 微调,作为 zero-shot 分类器使用。用户描述场景并列出选项后,模型通过一次前向计算返回各选项的校准概率,不生成文本;在 RTX PRO 6000 上,单次决策耗时约 22 毫秒。
来源:开源中国资讯 · oschina.net