Förvandla vilken autoregressiv LLM som helst till en Diffusion LM. dLLM är ett Python-bibliotek som förenar träning och utvärdering av diffusionsspråkmodeller. Du kan också använda den för att göra VILKEN autoregressiv LM som helst till en diffusions-LM med minimal beräkning. 100 % öppen källkod.
Här är varför detta är viktigt: Traditionella autoregressiva modeller genererar text från vänster till höger, en token i taget. Diffusionsmodeller fungerar annorlunda – de förfinar hela sekvensen iterativt, vilket ger dig bättre kontroll över genereringskvalitet och mer flexibla redigeringsmöjligheter.
35