Dharma AI 预览 VocabX 专用词表方法

Dharma AI 预览 VocabX 论文，提出按 token 的实际推理成本而非词频合并子词、构建宏词元，为特定领域模型重建词表。在葡萄牙语作文评分器实验中，词表输出层由约 15.2 万行降至 6.5 万行，平均响应长度从 350 个 token 降至 101 个，按实测运行时间计算的推理成本下降 77.0%，bench score 从 0.703 升至 0.810。 实验未更换基础模型，各组均在搭载 RTX 5090 的同一测试机上通过 vLLM 运行相同的 500 次请求。Dharma AI 称这些结果来自仍在评审中的当前论文版本，正式发表前数字可能变化。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。