Việc chưng cất có ý thức về tiến bộ để giảm bớt sự đình trệ trong các agent mô hình ngôn ngữ nhỏ

Đoạn trích bài viết

Trong khi các hệ thống agent dựa trên LLM đã chứng minh khả năng đáng chú ý trong lý luận và giải quyết các nhiệm vụ trong thế giới thực phức tạp, chúng cũng đi kèm với tiêu thụ token đáng kể và độ trễ suy luận, hạn chế việc triển khai thực tế của chúng.