ai·radar
Bản tin sáng Tra cứu

Ngoài đếm nhanh chóng: Cách chuyển giao hình dạng dữ liệu trong chưng cất trên chính sách

Beyond Prompt Count: How Data Shapes Transfer in On-Policy Distillation

Đoạn trích bài viết

Việc chưng cất chính sách (OPD) đào tạo học sinh bằng cách sử dụng phản hồi của giáo viên về các phản ứng được lấy mẫu của riêng họ, tuy nhiên cách thức chuyển đổi hình thức lựa chọn nhanh chóng giữa các cặp giáo viên - học sinh vẫn chưa được hiểu rõ.

Toàn văn bài viết

Đọc bài viết đầy đủ trên huggingface

Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.

Mở bài viết gốc