小众软件· 青小蛙·· 1 天前AI 评分73
Strata 0.2.2 正式发布:支持多显卡自由分工,Gyro 推理提速最高约 30%
Strata 0.2.2 发布:新增多显卡自由分工,Gyro 推理提速最高 30%
AI 导读
开源本地大模型运行工具 Strata 0.2.2 正式发布,新增多显卡角色管理,用户可指定 Main、Helper 或 Off。Gyro 量化模型在部分 NVIDIA 显卡上的推理速度最高提升约 30%,并扩展至 Apple Silicon Mac、Linux 下的 Intel Arc;AMD RX 6000 构建尚未完成实机验证和 Windows 安装包。
来源:小众软件 · appinn.com