將任何自回歸 LLM 轉換為擴散 LM。 dLLM 是一個 Python 庫,統一了擴散語言模型的訓練和評估。 您還可以使用它將任何自回歸 LM 轉換為擴散 LM,所需計算量極少。 100% 開源。
這為什麼重要: 傳統的自回歸模型是從左到右生成文本,一次一個標記。擴散模型的工作方式不同——它們會迭代地精煉整個序列,讓你對生成質量有更好的控制,並提供更靈活的編輯能力。
54