Thiết kế AI agent với vòng kiểm duyệt của con người thực sự hiệu quả

Nhiều đội ngũ nói rằng họ muốn một hệ thống AI human-in-the-loop, trong khi điều họ thực sự cần là một quy trình ra quyết định an toàn hơn. Hai việc này không giống nhau.

Nếu mọi bước đều cần phê duyệt, agent chỉ còn là một màn trình diễn hình thức tốn kém. Nếu không bước nào cần phê duyệt, hệ thống khó tạo được niềm tin. Thiết kế tốt nằm giữa hai cực đó.

Bắt đầu từ kiểu lỗi thực sự quan trọng

Trước khi thêm các bước kiểm duyệt, hãy xác định kiểu lỗi nào thực sự gây hại cho doanh nghiệp.

Ví dụ:

• gửi nhầm tin nhắn ra ngoài cho khách hàng
• phê duyệt một hành động trong quy trình có ảnh hưởng đến tiền hoặc quyền truy cập
• tóm tắt tài liệu nghiên cứu nội bộ nhưng thiếu ngữ cảnh

Việc xác định này quan trọng vì kiểm duyệt phải gắn với rủi ro, không phải với cảm giác bất an mơ hồ về AI.

Kiểm duyệt đúng thời điểm, không kiểm duyệt cả quy trình

Một lỗi phổ biến là đặt checkpoint kiểm duyệt con người sau mỗi hành động của agent. Điều này gây chậm trễ mà không bổ sung nhiều an toàn.

Cách làm tốt hơn là chỉ kiểm duyệt:

• đầu ra có độ tin cậy thấp
• hành động có tác động lớn
• ngoại lệ nằm ngoài chính sách đã biết
• kết quả cuối cùng trước khi chúng rời khỏi hệ thống

Cách này giúp con người tập trung vào những tín hiệu quan trọng thay vì những lần xác nhận lặp đi lặp lại, ít giá trị.

Ba mô hình kiểm duyệt thực tế

Phê duyệt trước hành động

Dùng mô hình này khi agent sắp thực hiện một việc không thể đảo ngược hoặc tốn kém. Phê duyệt thanh toán, thay đổi tài khoản và các hành động rủi ro cao liên quan đến khách hàng thuộc nhóm này.

Kiểm tra chất lượng theo mẫu

Dùng mô hình này khi quy trình có khối lượng lớn và rủi ro tương đối thấp. Người kiểm duyệt xem một phần đầu ra, theo dõi mức suy giảm chất lượng, rồi tinh chỉnh prompt hoặc guardrail khi cần.

Chuyển lên con người khi có ngoại lệ

Dùng mô hình này khi hệ thống xử lý tốt các trường hợp bình thường nhưng cần trợ giúp với các trường hợp biên. Đây thường là mô hình hiệu quả nhất vì thời gian của con người được dồn vào những quyết định khó nhất.

Người kiểm duyệt cần gì trong giao diện

Giao diện kiểm duyệt không nên chỉ hiển thị câu trả lời cuối cùng. Người kiểm duyệt cần:

• ngữ cảnh nguồn mà agent đã dùng
• chính sách hoặc quy tắc mà hệ thống đã áp dụng
• tín hiệu độ tin cậy hoặc mức độ bất định
• các lựa chọn hành động tiếp theo

Thiếu ngữ cảnh đó, người kiểm duyệt chỉ còn đoán mò thay vì là người vận hành chịu trách nhiệm thực sự.

Đưa phản hồi trở lại quy trình

Việc kiểm duyệt của con người chỉ thực sự tạo ra giá trị cộng hưởng khi các quyết định đó giúp hệ thống tốt lên theo thời gian. Hãy ghi nhận:

• lý do một kết quả bị từ chối
• ngữ cảnh bị thiếu nào đã gây ra sai sót
• có chính sách nào cần thay đổi không

Cách này biến kiểm duyệt từ chi phí lặp lại thành một vòng lặp cải tiến cho prompt, cơ chế định tuyến và guardrail.

Kết luận

Vòng kiểm duyệt của con người hiệu quả nhất khi có phạm vi hẹp, có chủ đích và gắn với rủi ro thực tế.

Mục tiêu không phải là buộc con người giám sát mọi hành động của AI. Mục tiêu là thiết kế quy trình để con người can thiệp đúng vào những thời điểm giúp bảo vệ niềm tin và cải thiện hệ thống.