腾讯微信AI团队推出新型扩散语言模型WeDLM，显著提升推理效率
发布日期：2026年1月13日
来源：AIbase AI新闻
核心摘要
腾讯微信AI团队近日发布了全新的扩散语言模型框架——WeDLM（WeChat Diffusion Language Model）。该模型旨在突破传统大语言模型（如GPT系列）在并行推理效率上的局限，提供更高效的文本生成能力。
技术突破：拓扑重排序与KV缓存兼容
WeDLM通过创新的拓扑重排序技术，将扩散模型与标准的因果注意力机制相结合。这一集成使WeDLM能够兼容KV缓存技术，有效解决了传统扩散模型中因双向注意力导致的推理速度瓶颈。此项改进不仅提升了推理速度，也保证了有效的生成质量，尤其在处理复杂推理任务时表现突出。
性能表现：速度与质量兼具
在实际性能测试中，WeDLM展现出显著的速度优势：
- 数学推理任务（GSM8K）：WeDLM-8B模型的推理速度比经过优化的自回归模型（如Qwen3-8B）快约3倍。
- 低熵场景计数任务：速度提升甚至可达到10倍以上。
在生成质量方面，WeDLM在多项基准测试（如ARC、MMLU、Hellaswag）中，其表现与传统自回归基线模型相当甚至更优，表明其在提升效率的同时保持了高准确性。
应用场景与前景
WeDLM的高效推理能力使其适用于多种场景，包括：
- 智能客服
- 代码辅助生成
- 实时问答（QA）
随着在实际应用中的推广，WeDLM有望降低计算成本、改善用户体验，并推动AI技术的更广泛应用。
关键要点总结
- WeDLM通过拓扑重排序技术提升推理速度，解决了传统模型的瓶颈问题。
- 在GSM8K等任务中，WeDLM-8B的速度可达优化后自回归模型的约3倍。
- 模型适用于智能客服、实时QA等多种场景，有助于降低计算成本并提升用户体验。
相关技术术语：扩散模型、语言模型、KV缓存、自回归模型、推理效率。
