SpecFold: Gập sự dư thừa đa nhánh để giải mã suy đoán nhanh hơn trong các mô hình ngôn ngữ khuếch tán

Đoạn trích bài viết

Các mô hình ngôn ngữ lớn khuếch tán (DLLM) tạo văn bản thông qua quá trình khử nhiễu khối lặp đi lặp lại, và việc giải mã suy đoán đa nhánh đẩy nhanh quá trình này bằng cách xác minh một nhánh chính cùng với nhiều nhánh phác thảo trong một lượt chuyển tiếp duy nhất.