Galahad以NVMe复用KV缓存，加速效果受条件限制

Corbenic AI推出测试版Galahad，将模型的KV缓存加密保存到服务器NVMe，并在相同输入再次出现时复用；其称可显著提速，但TechRadar发现，14倍加速主要来自Blaise只向模型提供约668个token，而非完整语料，单独使用Taliesin在部分测试中反而更慢。 该项目无需专用硬件，普通Linux系统、Nvidia GPU和NVMe SSD即可运行，但短文本不会保存，网络存储也明显慢于本地NVMe。原始日志尚未发布，Blaise的选择方法因专利暂未披露，相关论文仍是未经同行评审的arXiv预印本。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。