Đúng nhưng không khiêm tốn: Đánh giá sự khiêm tốn của kiến thức trong các agent LLM dưới sự xung đột kiến thức

Đoạn trích bài viết

Khi bằng chứng được tìm thấy mâu thuẫn với những niềm tin trước đó của một agent, liệu nó có sửa đổi câu trả lời của mình, thừa nhận sự không chắc chắn, hoặc tiếp tục đưa ra một kết luận sai? Các đánh giá hiện có về các hệ thống agent tập trung chủ yếu vào thành công nhiệm vụ, cung cấp một cái nhìn hạn chế về cách các agent xử lý các xung đột như vậy.