Efficient Reasoning Training Does Not Always Harm CoT Faithfulness and Monitorability

Đoạn trích bài viết

Lý luận chuỗi suy nghĩ (CoT) cho phép con người kiểm tra mô hình ngôn ngữ lớn đạt đến câu trả lời của họ như thế nào, và giám sát hành vi mô hình. Lý luận này đến với chi phí suy luận tăng lên, thúc đẩy các phương pháp hiệu quả huấn luyện các mô hình để giải quyết các nhiệm vụ bằng cách sử dụng ít token hơn.