Tưởng nhớ dài hạn thực sự cho AI: Một cửa sổ 50 triệu lần mà nhanh hơn và rẻ hơn so với tính toán lại
Real Long-Term Memory for AI: A 50-Million-Token Window That Is Faster and Cheaper Than Recompute
Đoạn trích bài viết
Một mô hình ngôn ngữ lớn chỉ có thể sử dụng văn bản phù hợp với cửa sổ ngữ cảnh của nó, và nó tính lại trạng thái giá trị khóa nội bộ (KV) của nó cho một lời nhắc mỗi khi lời nhắc được gửi.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.