Herhangi bir Otoregressif LLM'yi Diffüzyon LM'ye dönüştür. dLLM, difüzyon dil modellerinin eğitimi ve değerlendirilmesini birleştiren bir Python kütüphanesidir. Ayrıca herhangi bir otoregressif LM'yi minimum hesaplama ile difüzyon LM'ye dönüştürmek için de kullanabilirsiniz. %100 açık kaynak.
İşte bunun neden önemli olduğu: Geleneksel otoregressiv modeller, metni soldan sağa, her seferinde tek bir token üretir. Difüzyon modelleri farklı çalışır - tüm diziyi yinelemeli olarak geliştirir, böylece üretim kalitesi üzerinde daha iyi kontrol ve daha esnek düzenleme yetenekleri sağlar.
49