Przekształć dowolny autoregresywny LLM w model dyfuzyjny LM. dLLM to biblioteka Pythona, która łączy trening i ewaluację modeli językowych dyfuzyjnych. Możesz jej również użyć, aby przekształcić DOWOLNY autoregresywny LM w model dyfuzyjny LM przy minimalnym zużyciu mocy obliczeniowej. 100% open-source.
Oto dlaczego to ma znaczenie: Tradycyjne modele autoregresywne generują tekst od lewej do prawej, jeden token na raz. Modele dyfuzji działają inaczej - iteracyjnie udoskonalają całą sekwencję, dając lepszą kontrolę nad jakością generacji i bardziej elastyczne możliwości edycji.
48