On-Policy Distillation with Negative-Policy Rollouts

Đoạn trích bài viết

Việc chưng cất trên chính sách (OPD) đã được nghiên cứu rộng rãi như là một phương pháp sau huấn luyện trong đó mô hình học sinh nhận được sự giám sát cấp token từ một giáo viên mạnh mẽ hơn về việc triển khai của riêng mình.