Phát triển AI agent

Agent thực sự xứng đáng ở đâu

Agent hợp với công việc có mục tiêu rõ, nhiều bước, và chấp nhận được việc thử lại. Nó ít hợp hơn nhiều với xử lý giao dịch lưu lượng lớn không cho phép sai sót.

• Phân loại và định tuyến: đọc một mục đến, phân loại, xử lý hoặc chuyển lên.
• Tra cứu và tóm tắt xuyên nhiều hệ thống nội bộ.
• Công việc hậu cần nhiều bước mà hiện tại là một người chép qua lại giữa các công cụ.
• Soạn thảo bản nháp để con người xem và duyệt trước khi gửi đi.

Phân quyền và phạm vi thiệt hại

Câu hỏi thiết kế không phải là agent làm được gì khi nó chạy đúng, mà là nó làm được gì khi nó sai. Chúng tôi trả lời câu đó trước khi xây bất cứ thứ gì.

• Truy cập công cụ theo quyền tối thiểu — mặc định chỉ đọc, quyền ghi cấp theo từng trường hợp.
• Bắt buộc con người xác nhận với các thao tác chi tiền, gửi đi, hoặc xóa.
• Giới hạn tần suất và ngân sách cho mỗi lần chạy, để một vòng lặp không biến thành hóa đơn.
• Trace đầy đủ từng bước, để mọi hành động đều giải thích lại được.

Làm cho agent kiểm thử được

Một agent hành xử khác nhau mỗi lần chạy thì không thể bảo trì. Chúng tôi cố định những gì cố định được: công cụ tất định có kiểm thử riêng, trace đã ghi được phát lại làm ca hồi quy, và đánh giá trên cả lượt chạy thay vì từng câu trả lời. Không có những thứ đó thì mỗi thay đổi là một canh bạc, và sẽ không ai tin hệ thống đủ để nới quyền cho nó.