HardenedLinux社区发布SonicBoom框架

HardenedLinux社区发布采用GPLv3许可证的AI运行时框架SonicBoom，提供语言无关的C API，并集成LLVM MLIR图编译优化。项目方称，其社区版在RTX 3050 8G上的原始单点推理性能较llama.cpp提升20%，但不同显卡的测试结果可能波动。 社区版目前仅支持单点推理，以及CPI、CUDA后端；分布式推理计划用于企业版，Vulkan支持仍在规划中。v0.0.3版本正在邀请社区成员测试不同NVIDIA平台。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。