Tư duy đặt cược (Thinking-in-Bets) tại thời điểm kiểm thử giúp giảm việc sửa đổi mang tính xu nịnh ở các agent LLM

Đoạn trích bài viết

Các agent mô hình ngôn ngữ thường từ bỏ kết quả làm việc chính xác khi bị người dùng phản bác, nhưng nếu chỉ bảo chúng giữ vững lập trường thì lại khiến chúng phớt lờ những sai sót thực sự. Một khi agent đọc một lời phàn nàn, nó có xu hướng xem nhẹ những lần kiểm tra trước đó của chính mình để đồng thuận với người dùng.