Các mô hình nhỏ hơn, loại bỏ tốt hơn: quy mô chưng cất ưu tiên
Smaller Models, Better Rejects: Preference Distillation Scaling
Đoạn trích bài viết
Việc chưng cất ưu tiên thường xử lý phản ứng của giáo viên như được ưu tiên và phản ứng của học sinh như bị từ chối.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.