AdvSim2Real: huấn luyện các agent web chống lại tiêm nhanh thích ứng trong mô hình thế giới web
AdvSim2Real : Training Web Agents Against Adaptive Prompt Injection in a Web World Model
Đoạn trích bài viết
Các agent web hoàn thành yêu cầu của người dùng bằng cách đọc và hành động trên các trang mà bên thứ ba viết, vì vậy một hướng dẫn được trồng trên một trang có thể chuyển hướng agent ra khỏi mục tiêu của người dùng. Các agent không thể đơn giản là bỏ qua trang, bởi vì trang cũng chứa các giá trị và kiểm soát nhiệm vụ yêu cầu.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.