Làm thế nào "agent trò chơi ngược" có thể giữ cho các agent AI kiểm soát

Đoạn trích bài viết

Một cách tiếp cận mới được gọi là "kỹ thuyết trò chơi ngược" nhằm mục đích kiểm soát các mô hình AI mạnh mẽ bằng cách thiết kế các hệ thống khuyến khích họ tuân thủ các quy tắc. Khi các mô hình AI trở nên có khả năng hơn, các nhà nghiên cứu an toàn đang cố gắng để đảm bảo rằng chúng "được phù hợp" với mong muốn của con người để đảm bảo, bằng cách khác, rằng.