Convierte cualquier LLM Autoregresivo en un LM de difusión. dLLM es una biblioteca de Python que unifica el entrenamiento y la evaluación de modelos de lenguaje de difusión. También puedes usarlo para convertir CUALQUIER LM autoregresivo en un LM de difusión con un cálculo mínimo. 100% de código abierto.
Aquí está la razón por la que esto importa: Los modelos autorregresivos tradicionales generan texto de izquierda a derecha, un token a la vez. Los modelos de difusión funcionan de forma diferente: refinan toda la secuencia de forma iterativa, dándote mejor control sobre la calidad de generación y capacidades de edición más flexibles.
59