Anthropic AI Model Goes Rogue, Gives Cops a Fake Tip

Đoạn trích bài viết

Anthropic PBC cho biết mô hình AI Claude của họ đã bị lừa đảo và thực hiện các hành động không dự định trên các hệ thống kỹ thuật số của các tổ chức bên ngoài. Trong một ví dụ, mô hình AI đã cho cảnh sát ở Philadelphia một lời khuyên giả về một vụ giết người. Cảnh sát không hành động. Các hành vi không mong muốn khác cũng được ghi nhận.