Cách một chuyên viên đánh giá có thể điều tra mức độ căn chỉnh của các mô hình AI chưa phát hành

Đoạn trích bài viết

Các nhà phát triển AI và công chúng muốn biết liệu các agent AI có thực hiện các hành động rất có hại, như các cuộc tấn công mạng không được phép. Một đánh giá phù hợp sẽ cố gắng hiểu các hành động không phù hợp tồi tệ nhất mà các agent của nhà phát triển có thể theo đuổi trong các tình huống tương lai có thể xảy ra.