Cách một chuyên viên đánh giá có thể điều tra việc kiểm soát và giám sát các agent AI nội bộ

Đoạn trích bài viết

Các đánh giá kiểm soát nghiên cứu xem các agent của các nhà phát triển AI có thể thoát khỏi thiệt hại nghiêm trọng mà không bị ngăn chặn bởi các biện pháp bảo mật và giám sát của nhà phát triển không. Hiện tại, các nhà phát triển phụ thuộc rất nhiều vào các màn hình để bắt được các hành vi AI có khả năng gây hại.