Một agent có thể học cách dự đoán sự thất bại của chính mình không? Tích chuẩn sự tin tưởng dựa trên kết quả đối với các agent LLM

Đoạn trích bài viết

Kiểm soát một agent LLM hoạt động có nghĩa là quyết định, ở mỗi bước của một nhiệm vụ tầm xa, liệu để tin vào hành động tiếp theo của nó, tránh, hoặc trao cho một con người. Quyết định đó cần một tín hiệu tin tưởng từng bước dự đoán liệu việc triển khai hiện tại cuối cùng sẽ thành công hay không.