TensorRT Edge-LLM hoàn thành MLPerf Edge Agentic Benchmark 6,4x nhanh hơn trên Jetson AGX Thor

Đoạn trích bài viết

Các agent AI đang di chuyển từ trung tâm dữ liệu đám mây sang các phương tiện, robot và các thiết bị cạnh khác. Không giống như chatbot trả lời một lời chỉ đơn, một agent làm việc qua...