ai·radar
Bản tin sáng Tra cứu

Xem xét lại việc chuyển giao khác biệt chính sách tương đối trong chưng cất On-Policy

Rethinking Relative Policy Differences Transfer of On-Policy Distillation

Đoạn trích bài viết

Chưng cất on-policy (OPD) huấn luyện một chính sách mục tiêu dựa trên chính các chu kỳ triển khai (rollout) của nó bằng cách sử dụng giám sát cấp độ token từ một mô hình giáo viên mạnh hơn, nhưng phương pháp này thường phụ thuộc vào việc giáo viên phải có năng lực vượt trội hơn đáng kể so với mục tiêu.

Toàn văn bài viết

Đọc bài viết đầy đủ trên huggingface

Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.

Mở bài viết gốc