diffusion-language-models
按标签浏览论文。
ClockDiffusion
Clock Diffusion: Efficient Semi-Autoregressive Continuous Diffusion Language Models
Clock Diffusion 用错开的局部去噪时钟与因果前缀缓存实现连续扩散的半自回归生成,Cache Grab 提前提交降低模型调用次数;SSD 需联合 AR 训练。
Sigma
Large Language Continuous Diffusion Models
Sigma 将可学习低维连续扩散扩展到 3B/8B,以轨迹引导、球面正则化和蒸馏改善推理覆盖率与少步生成。
Smoothie
Smoothie: Smoothing Diffusion on Token Embeddings for Text Generation
Smoothie 用词表嵌入距离构造语义平滑扩散,以嵌入 MSE 与重加噪采样改善生成质量,收益伴随随机性调节和全词表计算成本。
Efficient-DLM
Efficient-DLM: From Autoregressive to Diffusion Language Models, and Beyond in Speed
Efficient-DLM 以干净前文的分块注意力和位置相关遮罩实现 AR 到扩散模型的转换,在小 batch 下改善并行生成的准确率与吞吐量取舍。
ELF-REG
ELF-REG: Scaling Continuous Diffusion Language Models to Reasoning Tasks
以教师表示对齐和全局状态联合去噪改善连续语言模型,并通过前缀早停在较低 NFE 下完成数学与代码任务。
ELF
ELF: Embedded Language Flows
ELF 通过连续嵌入流与共享末端解码改善少步文本生成,渐进蒸馏进一步提速;效果需结合多样性、语义忠实度与训练成本解读。
CDLM
Consistent Diffusion Language Models
CDLM 利用精确后验桥实现单阶段跨噪声一致性训练,改善少步离散生成;收益需结合熵评价,效率报告采用 NFE。
LoopMDM
Looped Diffusion Language Models
LoopMDM以少量早中层共享循环改善掩码扩散模型的训练效率和质量,自适应停止减少循环开销;需区分训练与推理预算。
没有找到匹配论文,试试其他关键词或标签。