JevAgentHarness: Đánh giá hiệu năng, triển khai và huấn luyện các mô hình ra quyết định chia sẻ quyền kiểm soát với LLMs

Đoạn trích bài viết

Các agent mô hình ngôn ngữ lớn (LLM) hiện sửa lỗi phần mềm, vận hành máy tính và phục vụ khách hàng, nhưng phần khung quản lý của chúng—các chương trình vận hành chúng—gọi một LLM lớn ở mỗi bước, điều này khiến các tác vụ dài trở nên chậm chạp và tốn kém. Hầu hết các lệnh gọi này đều kết thúc bằng một quyết định dạng trắc nghiệm, chẳng hạn như công cụ nào sẽ được gọi tiếp theo.