让知识蒸馏达到可规模化运行的成本：Multiverse Computing 的分块 KL 损失方案

Multiverse Computing 提出 Efficient Knowledge Distillation for LLMs，结合离线 top-K logits 缓存与 fused chunked KL loss，降低知识蒸馏的显存占用并支持单 GPU 长上下文训练。