PaLoRA: Chuyện thích nghi cấp thấp với học tập liên tục

Đoạn trích bài viết

Các phương pháp học tập liên tục dựa trên LoRA giảm thiểu sự lãng quên thảm khốc thông qua các cơ chế khác nhau, nhưng hầu hết đều bổ sung cho chúng với tỷ lệ học tập nhỏ như một phương pháp học thuật để hạn chế độ quy mô gradient.