On-Policy Self-Training: Tự cải thiện không cần dữ liệu ở các mô hình ngôn ngữ lớn

Đoạn trích bài viết

Tự chưng cất on-policy cho phép hậu huấn luyện các mô hình nền tảng mà không cần phụ thuộc vào các mô hình thầy bên ngoài mạnh hơn. Tuy nhiên, các phương pháp hiện có vẫn phụ thuộc vào các cặp câu hỏi-đáp ground-truth, các bộ bài toán do con người tuyển chọn hoặc các tín hiệu giám sát khác.