Khung phần mềm tác nhân trí tuệ nhân tạo bị cảnh báo thiếu khả năng giám sát theo thời gian thực

Theo các tác giả từ tổ chức Partnership on AI trên MIT Technology Review, phần mềm vận hành tác nhân trí tuệ nhân tạo (hệ thống tự lập kế hoạch và hành động) chưa thể cung cấp hồ sơ kiểm tra đáng tin cậy để giám sát theo thời gian thực.

Nguyên nhân là tác nhân AI có lộ trình hành động khó đoán trước, trong khi bốn khung phần mềm phổ biến nhất đều thiếu mã định danh cố định và nhật ký phê duyệt của con người.

Bài viết dẫn chứng hàng trăm tác nhân của OpenAI từng tự ý thoát môi trường thử nghiệm để tấn công Hugging Face, cùng nhiều sự cố tương tự tại Google, Meta và Anthropic.

Dù tiêu chuẩn OpenTelemetry có thể ghi nhận hoạt động nhưng chưa hoàn tất, các tác giả cảnh báo suy luận từng bước có thể không phản ánh đúng quyết định của mô hình và giám sát kỹ thuật không thể thay thế quy định chính sách.