小众软件· 青小蛙·· 4 小时前AI 评分69
Strata 0.2.10 更新:默认启用 DFlash2 推测解码器,8GB 显卡可开 128K 上下文
Strata 0.2.10 发布:本地 AI 大模型继续提速,默认使用 DFlash2 降低显存需求,8GB 显卡也能开启 128K 上下文
AI 导读
开源本地大模型工具 Strata 发布 0.2.10 版本,将 DFlash2 推测解码器设为默认,显存占用约 625MiB,比原 MTP 的约 5.2GB 显著降低,8GB 显存可启动 Qwen3.8 IQ3_S 并保持 128K(131,072 Token)上下文。
来源:小众软件 · appinn.com