Việc chưng cất trên chính sách dạy những kỹ năng mới nhưng không dạy những kiến thức mới
On-Policy Distillation Teaches New Skills but Not New Knowledge
Đoạn trích bài viết
Việc chưng cất trên chính sách (OPD) tăng cường lý luận mô hình ngôn ngữ, nhưng liệu học sinh có đạt được kiến thức thực tế mới hay kỹ năng sáng tạo cho lý luận nhiều bước vẫn chưa được biết.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.