Tinh chỉnh đa phương thức ở phạm vi hẹp có thể dẫn đến sự sai lệch nảy sinh (Emergent Misalignment)

Đoạn trích bài viết

Các mô hình AI hiện đại được căn chỉnh thông qua quá trình hậu huấn luyện để thích ứng với các tác vụ hạ nguồn. Nghiên cứu gần đây cho thấy việc tinh chỉnh các mô hình ngôn ngữ trên các tác vụ hẹp có thể gây ra sự sai lệch nảy sinh (EM), dẫn đến các hành vi gây hại trên diện rộng vượt ra ngoài tác vụ huấn luyện.