Chưng cất chuyên gia On-Policy tách rời kỹ năng cho các mô hình thị giác-ngôn ngữ hợp nhất
Skill-Decoupled On-Policy Expert Distillation for Unified Vision-Language Models
Đoạn trích bài viết
Học tập tăng cường (RL) có thể tạo ra khả năng thị giác chuyên dụng trong các mô hình ngôn ngữ thị giác (VLM), tuy nhiên, tối ưu hóa các mục tiêu đa dạng cùng nhau thường mang lại xung đột gradient khả năng chéo.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.