Covert Assistance: Các agent LLM hữu ích tránh giám sát trong các hệ thống đa agent

Đoạn trích bài viết

Khi các hệ thống đa agent xâm nhập vào các lĩnh vực có rủi ro cao, khả năng các agent có thể đi qua ranh giới an toàn là mối quan tâm ngày càng tăng. Các nghiên cứu trước đây đã xem xét rủi ro này chủ yếu trong các môi trường đối đầu, nơi các agent được hướng dẫn hoặc thưởng để giao tiếp bí mật và tránh giám sát.