Gjør en hvilken som helst autoregressiv LLM om til en Diffusion LM. dLLM er et Python-bibliotek som samler trening og evaluering av diffusjonsspråkmodeller. Du kan også bruke den til å gjøre HVILKEN som helst autoregressiv LM om til en diffusjons-LM med minimal beregning. 100 % åpen kildekode.
Her er grunnen til at dette er viktig: Tradisjonelle autoregressive modeller genererer tekst fra venstre til høyre, én token om gangen. Diffusjonsmodeller fungerer annerledes – de finpusser hele sekvensen iterativt, noe som gir deg bedre kontroll over genereringskvaliteten og mer fleksible redigeringsmuligheter.
46