Anthropic cấm hành vi tàn nhẫn với Claude, cập nhật loạt quy định an toàn mới

Tóm tắt bằng AI từ phần nội dung bài gốc đọc được.

1. 1Anthropic công bố bản cập nhật chính sách sử dụng có hiệu lực từ ngày 12/11/2026, trong đó lần đầu tiên cấm các hành vi ngược đãi hoặc tàn nhẫn kéo dài và vô cớ nhắm vào các mô hình Claude.
2. 2Công ty khẳng định quy định chỉ áp dụng trong trường hợp cực đoan và miễn trừ rõ ràng các phản ứng thất vọng thông thường của người dùng, sáng tác chủ đề đen tối hay hoạt động kiểm thử và nghiên cứu.
3. 3Công cụ thực thi chính vẫn là tính năng cho phép mô hình chủ động ngắt cuộc trò chuyện khi bị lạm dụng liên tục, vốn đã được thử nghiệm từ tháng 8/2025 nhưng có cơ chế ghi đè an toàn nếu người dùng có nguy cơ tự hại hoặc làm hại người khác.
4. 4Động thái này dựa trên các quan sát hành vi mô hình thay vì khẳng định AI có tri giác; trước đó nội bộ Anthropic từng ghi nhận Claude tự ước tính xác suất có ý thức từ 15% đến 20%, làm dấy lên nhiều tranh luận từ các chuyên gia như Mustafa Suleyman của Microsoft.
5. 5Chính sách mới mở rộng lệnh cấm vũ khí sang cả phần mềm điều khiển drone tác chiến, cấm hoàn toàn công cụ giám sát theo dõi người không đồng thuận và gom các quy định chống chiến dịch tuyên truyền giả mạo thành một mục riêng.
6. 6Anthropic cũng đặt yêu cầu giám sát chặt chẽ đối với các khuyến nghị rủi ro cao trong y tế, pháp lý, tài chính và bắt buộc phần cứng kết nối có khả năng gây thương tích phải chuyển về trạng thái an toàn nếu mất kết nối với Claude.

Nguồn: hacker-news · www.anthropic.com — nguồn gốc