Janas: Chạy các LLM lớn hơn RAM bằng cách truyền luồng các chuyên gia từ SSD
Janas: Run LLMs larger than RAM by streaming experts from SSD
Đoạn trích bài viết
Chưa có đoạn trích cho bài viết này. Bạn có thể mở đọc toàn văn bài viết gốc bên dưới.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên hacker-news
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.