ai·radar
Bản tin sáng Tra cứu

Quản lý tốt hơn đang ở gần: tự chưng cất chính sách hàng xóm

Better Supervision Is Nearby: Neighborhood On-Policy Self-Distillation

Đoạn trích bài viết

Chính sách tự chưng cất (OPSD) huấn luyện các mô hình lý luận toán học bằng cách sử dụng một giáo viên đặc quyền nhìn thấy một giải pháp tham chiếu và giám sát các tiền tố được lấy mẫu của học sinh. OPSD tiêu chuẩn sử dụng một cài đặt tham số cố định ở mỗi trạng thái, nhưng cài đặt gần có thể cung cấp giám sát bổ sung.

Toàn văn bài viết

Đọc bài viết đầy đủ trên huggingface

Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.

Mở bài viết gốc