ModelBest Open-Source MiniCPM-V 4.7, mô hình đa mô hình MoE đầu tiên của nó, chạy trong 3GB trên điện thoại
ModelBest Open-Sources MiniCPM-V 4.7, Its First MoE Multimodal Model, Running in 3GB on a Phone
Đoạn trích bài viết
MiniCPM-V 4.7 của ModelBest có kích thước 35B-A3B và 1B. Phiên bản MoE giải mã với hơn 13 token/s trong khoảng 3GB bộ nhớ trên iPhone 17 Pro Max, công ty cho biết.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên pandaily
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.