自己回帰型LLMを拡散型のLMに変えましょう。 dLLMは、拡散言語モデルの訓練と評価を統合するPythonライブラリです。 また、任意の自己回帰LMを最小限の計算で拡散LMに変換することもできます。 100%オープンソースです。

なぜこれが重要なのか、次の通りです: 従来の自己回帰モデルは、左から右へ、1トークンずつテキストを生成します。拡散モデルは異なる仕組みで、シーケンス全体を反復的に洗練させ、生成品質のコントロールや編集の柔軟性を高めます。