QuantWM: Thời gian nhất quán 2 bit KV cache định lượng cho mô hình thế giới video
QuantWM: Temporally Consistent 2-Bit KV Cache Quantization for Video World Models
Đoạn trích bài viết
Các mô hình thế giới video đạt được sự nhất quán thời gian tầm xa bằng cách lưu trữ bộ nhớ cache KV trong quá trình tạo ra, nhưng bộ nhớ cache ngày càng tăng làm cho bộ nhớ cache KV trở thành một nút thắt triển khai lớn, điều này thúc đẩy nghiên cứu định lượng nhỏ về hiệu quả.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.