AI 智能体开发
AI 智能体是一种自行决定采取哪些步骤、并调用你的工具去执行的系统，而不是产出一段文字让人去照着做。这让它在多步骤工作上很有用，同时也在同等程度上带来风险——一个拥有写入权限的智能体，能在很短时间内造成真实损害。我们构建智能体时，权限收得很窄，审计轨迹完整，任何昂贵或不可逆的动作都要经过人工确认。
智能体在哪些场景真正配得上它的位置
智能体适合目标明确、包含若干步骤、并且能容忍重试的工作。它远不适合高并发、零容错的交易处理。
- 分诊与路由：读取一条新进来的事项，分类，然后处理或升级。
- 跨多个内部系统的资料查找与摘要。
- 目前需要人在工具之间来回复制粘贴的多步骤后台工作。
- 起草内容，在发出之前先由人工审阅并批准。
权限与影响半径
设计时要问的不是「它正常工作时能做什么」，而是「它出错时能做什么」。这个问题我们在动手构建之前就会回答。
- 工具访问遵循最小权限——默认只读，写入权限逐案授予。
- 涉及花钱、发送或删除的操作，一律需要明确的人工确认。
- 为每次运行设置速率与预算上限，避免一个死循环变成一张账单。
- 完整记录每一步的轨迹，任何动作事后都能解释清楚。
让智能体可测试
一个每次运行表现都不一样的智能体，是没法维护的。我们会把能钉死的部分尽量钉死：确定性的工具各自带测试、把录制的轨迹回放为回归用例，以及以整次运行为单位做评测，而不是只看单条回复。少了这些，每一次改动都是一场赌博，而且没人会信任这套系统到愿意放宽它的权限。
常见问题
- 智能体和聊天机器人有什么区别？
- 聊天机器人产出文字，由人去照着行动。智能体则通过调用工具亲自执行——查询数据库、开工单、发送消息。正是这个区别，让权限与审计轨迹在这里远比在聊天界面中重要。
- 如果智能体做错了事怎么办？
- 就当它一定会做错，然后把后果的边界设计好。不可逆和昂贵的动作放在人工确认之后，工具访问权限压到最低，每一步都记录到足以重建并撤销所发生之事的详细程度。
- 它能和我们现有的工具协同吗？
- 可以——智能体通过你已有的 API 来执行动作。如果某个系统没有 API，那么我们在常规集成中使用的文件、消息队列或数据库这几条路径，在这里同样适用。
- 现在做这个值得吗？
- 对于范围有界、结果可复核的工作，往往值得。对于无人值守、高风险、大批量的处理，通常还不到时候。与其造一个你一个月后就得关掉的东西，我们宁愿直接告诉你这一点。