OPMD: Chưng cất cơ chế on-policy vượt ra ngoài việc giám sát đầu ra

Đoạn trích bài viết

Chưng cất on-policy (OPD) cải thiện mô hình ngôn ngữ bằng cách giám sát mô hình học trò trên các tiền tố được lấy mẫu từ chính chính sách của nó, nhưng sự giám sát này vẫn bị giới hạn trong không gian đầu ra.