跳到正文
小众软件· 青小蛙·· 4 小时前AI 评分69

Strata 0.2.10 更新:默认启用 DFlash2 推测解码器,8GB 显卡可开 128K 上下文

Strata 0.2.10 发布:本地 AI 大模型继续提速,默认使用 DFlash2 降低显存需求,8GB 显卡也能开启 128K 上下文

AI 导读

开源本地大模型工具 Strata 发布 0.2.10 版本,将 DFlash2 推测解码器设为默认,显存占用约 625MiB,比原 MTP 的约 5.2GB 显著降低,8GB 显存可启动 Qwen3.8 IQ3_S 并保持 128K(131,072 Token)上下文。

来源:小众软件 · appinn.com