Hệ thống giám sát agent nội bộ của Red-Teaming Anthropic

Đoạn trích bài viết

Hợp tác với Anthropic, một agent METR (David Rein) gần đây đã dành ba tuần làm việc làm nhóm nhỏ của hệ thống giám sát và bảo mật các agent nội bộ của Anthropic, nhiều trong số đó được mô tả trong Báo cáo rủi ro phá hoại Opus 4.6 (Tổ lục 8.4, đặc biệt là 8.4.8).