讲解扩散语言模型的生成原理及其与 GPT 的差异

Machine Learning Mastery 发布教程，讲解扩散语言模型如何通过迭代去噪、逐步揭示掩码位置来生成文本，并与 GPT 式自回归逐词生成对比。文章介绍前向/逆向扩散、以 [MASK] 替换令牌的离散文本适配、推理时的置信度提交与 revision 机制，并指出令牌依赖、采样预算、变长输出和 KV 缓存等仍待解决的挑战。