DeepSeek mở mã nguồn khung suy luận hỗ trợ chip Nvidia và Huawei
DeepSeek open-sources inference framework with support for Nvidia and Huawei chips
Đoạn trích bài viết
DeepSeek đã phát hành DeepInfer, khung suy luận đứng sau các dịch vụ mô hình quy mô lớn của mình, vào ngày 20 tháng 10. Khung này hỗ trợ GPU Nvidia cùng bộ xử lý Huawei Ascend, đồng thời cung cấp các khả năng bao gồm suy luận phân tán, giải mã phỏng đoán và đầu ra có cấu trúc.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên technode
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.