Sự rò rỉ tư duy trong việc tăng cường học tập cho LLM
The Thinking Leakage in Reinforcement Learning for LLMs
Đoạn trích bài viết
Các mô hình lý luận lai như Qwen3 series chuyển đổi giữa chế độ THINK và chế độ NO-THINK thông qua một vài token mẫu trò chuyện. Một công thức phổ biến huấn luyện các mô hình như vậy với việc học tập tăng cường trong chế độ NO-THINK và báo cáo hiệu suất suy luận được cải thiện.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.