Transformez n'importe quel LLM autoregressif en un LM de diffusion. dLLM est une bibliothèque Python qui unifie l'entraînement et l'évaluation des modèles de langage de diffusion. Vous pouvez également l'utiliser pour transformer n'importe quel LLM autoregressif en un LM de diffusion avec un minimum de ressources. 100 % open-source.

Voici pourquoi cela est important : Les modèles autoregressifs traditionnels génèrent du texte de gauche à droite, un jeton à la fois. Les modèles de diffusion fonctionnent différemment - ils affinent l'ensemble de la séquence de manière itérative, vous offrant un meilleur contrôle sur la qualité de génération et des capacités d'édition plus flexibles.