将任何自回归 LLM 转换为扩散 LM。 dLLM 是一个统一扩散语言模型训练和评估的 Python 库。 您还可以使用它将任何自回归 LM 转换为扩散 LM,所需计算量极少。 100% 开源。
这就是为什么这很重要: 传统的自回归模型是从左到右逐个生成文本。而扩散模型的工作方式不同——它们迭代地优化整个序列,使您能够更好地控制生成质量,并提供更灵活的编辑能力。
63