Ngoài đếm nhanh chóng: Cách chuyển giao hình dạng dữ liệu trong chưng cất trên chính sách
Beyond Prompt Count: How Data Shapes Transfer in On-Policy Distillation
Đoạn trích bài viết
Việc chưng cất chính sách (OPD) đào tạo học sinh bằng cách sử dụng phản hồi của giáo viên về các phản ứng được lấy mẫu của riêng họ, tuy nhiên cách thức chuyển đổi hình thức lựa chọn nhanh chóng giữa các cặp giáo viên - học sinh vẫn chưa được hiểu rõ.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.