HalcyonMô hình đã sử dụng điều đó? Hoạt động huấn luyện giả tạo thúc đẩy sự tự tính trong các mô hình ngôn ngữ
Did the Model Use That? Counterfactual Training Boosts Self-Attribution in Language Models
Đoạn trích bài viết
Một thách thức cơ bản đối với các mô hình ngôn ngữ có thể giải thích và chịu trách nhiệm là tiết lộ thông tin bên ngoài ảnh hưởng đến câu trả lời của họ như thế nào. Bài báo này xem xét liệu các mô hình có tự quy định hay không: tức là, liệu họ có chỉ ra khi nào - và chỉ khi nào - câu trả lời của họ đối với các câu hỏi bị ảnh hưởng bởi thông tin.
Toàn văn bài viết
Mở bài viết gốc
Đọc bài viết đầy đủ trên huggingface
Mở bài gốc để xem trọn vẹn chi tiết và dẫn chứng.