NVIDIA công bố mã nguồn mở Attribution để chẩn đoán sự cố cho hệ thống AI phân tán
Diagnose Distributed AI Workload Failures with NVIDIA Attribution
Phòng báo Halcyon tóm tắt từ nvidia
NVIDIA công bố mở mã nguồn NVIDIA Attribution để hỗ trợ chẩn đoán sự cố cho khối lượng công việc AI phân tán. Hệ thống vận hành qua dịch vụ Attribution Service cùng bộ kết nối dữ liệu Attribution Blueprint.
Theo NVIDIA, ngoại lệ báo cáo chỉ thể hiện nơi tác vụ dừng lại thay vì nơi phát sinh sự cố. Công cụ dùng các quy tắc tất định (quy tắc cho kết quả cố định theo đầu vào) để bóc tách triệu chứng phái sinh khỏi nguyên nhân gốc.
Trên một khối lượng công việc giả lập, hệ thống chỉ ra lỗi tín hiệu NVLink ở một máy chủ là nguyên nhân gốc và giữ lại các lỗi NCCL làm triệu chứng bổ trợ.
Theo NVIDIA, công cụ này phân tích từng lần chạy tác vụ tại một thời điểm và các quy tắc mới không thể tải lên động qua HTTP mà phải đóng gói kèm dịch vụ.
Nguồn: nvidia
Bản tóm tắt dựa trên các phần nguồn đọc được.
Đọc bài viết đầy đủ trên nvidia
Halcyon tóm tắt ý chính để bạn nắm nhanh sự kiện. Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.