Làm thế nào chúng ta phát hiện các mô hình tiên phong không phù hợp

Đoạn trích bài viết

OpenAI sử dụng giám sát lớp để phát hiện sự không phù hợp của mô hình tiên phong và hành vi của các agent không được phép để những người phản ứng có thể can thiệp trước khi các sự cố leo thang.