Quản lý tốt hơn đang ở gần: tự chưng cất chính sách hàng xóm
Better Supervision Is Nearby: Neighborhood On-Policy Self-Distillation
Đoạn trích bài viết
Chính sách tự chưng cất (OPSD) huấn luyện các mô hình lý luận toán học bằng cách sử dụng một giáo viên đặc quyền nhìn thấy một giải pháp tham chiếu và giám sát các tiền tố được lấy mẫu của học sinh. OPSD tiêu chuẩn sử dụng một cài đặt tham số cố định ở mỗi trạng thái, nhưng cài đặt gần có thể cung cấp giám sát bổ sung.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.