Biến bất kỳ LLM tự hồi quy nào thành một LM khuếch tán. dLLM là một thư viện Python thống nhất việc đào tạo & đánh giá các mô hình ngôn ngữ khuếch tán. Bạn cũng có thể sử dụng nó để biến BẤT KỲ LLM tự hồi quy nào thành một LM khuếch tán với mức tính toán tối thiểu. 100% mã nguồn mở.
Đây là lý do tại sao điều này quan trọng: Các mô hình tự hồi quy truyền thống tạo ra văn bản từ trái sang phải, từng token một. Các mô hình khuếch tán hoạt động khác - chúng tinh chỉnh toàn bộ chuỗi một cách lặp đi lặp lại, giúp bạn kiểm soát tốt hơn về chất lượng tạo ra và khả năng chỉnh sửa linh hoạt hơn.
47