Khi nào chúng ta cần chưng cất On-Policy? Chưng cất trên các rollout ngoại tuyến của học sinh thường tốt hơn

Đoạn trích bài viết

Chưng cất on-policy (OPD) ngày càng trở nên phổ biến để chuyển giao năng lực từ giáo viên sang các mô hình học sinh. Trong nghiên cứu này, chúng tôi đặt ra một câu hỏi nghiên cứu quan trọng: Liệu lấy mẫu on-policy có luôn mang lại lợi ích cho việc chưng cất các cặp giáo viên-học sinh bất kỳ hay không?