Перетворіть будь-який авторегресивний LLM на дифузійний LM. dLLM — це бібліотека на Python, яка об'єднує навчання та оцінку моделей мов дифузії. Ви також можете використовувати його, щоб перетворити БУДЬ-ЯКУ авторегресивну LM на дифузійну LM з мінімальними обчисленнями. 100% відкритий код.
Ось чому це важливо: Традиційні авторегресивні моделі генерують текст зліва направо, по одному токену за раз. Дифузійні моделі працюють інакше — вони ітеративно вдосконалюють всю послідовність, що дає кращий контроль над якістю генерації та більш гнучкі можливості редагування.
50