Yamz-Labs/kyojin
Yamz-Labs/kyojin
Đoạn trích bài viết
Kyojin: động cơ suy luận Yamz cho AMD Strix Halo (ROCm, gfx1151), được xây dựng trên ExLlamaV3. chạy các mô hình MoE lớp 300B trên một máy tính mini 128 GB.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên github
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.