Làm việc sớm về các đánh giá khả năng giám sát

Đoạn trích bài viết

Khởi đầu Hệ thống AI trong tương lai có thể đủ khả năng để thực hiện phá hoại, hoặc thông qua các hành động độc hại trong thế giới thực hoặc thông qua việc cố ý làm sai lầm với các đánh giá. Chúng tôi muốn theo dõi khả năng phá hoại của các hệ thống AI và tự tin rằng chúng tôi có thể phát hiện các nỗ lực phá hoại AI.