ReaDy: Trạng thái Tuần hoàn đóng vai trò Ngữ cảnh Động cho Soạn thảo Suy đoán trong các Mô hình Ngôn ngữ Lớn Chú ý Tuyến tính Lai

Đoạn trích bài viết

Giải mã suy đoán giúp tăng tốc quá trình sinh tự hồi quy bằng cách soạn thảo nhiều token trong mỗi bước, tuy nhiên các bộ soạn thảo dựa trên đặc trưng lại phụ thuộc vào các đặc trưng ẩn mục tiêu vốn có sự nhấn mạnh ngữ cảnh có thể không phù hợp với nhu cầu của các vị trí soạn thảo tiếp theo.