SenseCore của SenseTime trình bày chi tiết về cụm phân tách Prefill/Decode phục vụ suy luận Agentic

Đoạn trích bài viết

Tại Hội nghị CSDI, SenseCore đã mô tả kiến trúc Prefill nội địa và Decode băng thông cao được liên kết bằng KV Cache, đạt thông lượng token khoảng 5 lần trong một thử nghiệm, cùng lộ trình tăng từ 6 lên 10 nghìn tỷ token mỗi ngày vào quý 4 năm 2026.