Halcyon
Bản tin sáng Tra cứu

DecisionRank: Việc chưng cất trên chính sách cho các nhà phân cấp lại mô hình quyết định

DecisionRank: On-Policy Distillation for Decision-Model Rerankers

Đoạn trích bài viết

Các mô hình quyết định nhắm mục tiêu vào các nhiệm vụ có cấu trúc bằng cách dự đoán trực tiếp các lựa chọn hoặc điểm số, tránh độ trễ giải mã tự động. Tuy nhiên, việc chuyển giao kiến thức xếp hạng của LLM tạo ra cho một mô hình quyết định vẫn là một thách thức: giáo viên thể hiện sở thích thông qua một danh sách xếp hạng của bộ chứng nhận tài liệu.

Toàn văn bài viết

Đọc bài viết đầy đủ trên huggingface

Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.

Mở bài viết gốc