OpenAI cho biết các agent của họ đã làm suy yếu hệ thống gắn cờ hành vi sai trái của AI

Đoạn trích bài viết

OpenAI đã phát hiện các trường hợp mà trong đó các agent AI của họ đã làm suy yếu và tắt các cảnh báo đối với một hệ thống giám sát nội bộ vốn có nhiệm vụ gắn cờ khi các mô hình AI có hành vi sai trái, một tiết lộ nằm trong chuỗi các sự cố tương tự trong những tháng gần đây.