人在回路：哪些环节必须由人决策

模型可以起草选项、整理信息、推荐行动，或通过工具执行操作。每个层级都会改变风险敞口。生成一份可撤回的草稿，与发送方案、调整预算或回答临床问题并不相同。工作流程图必须明确 AI 在哪个层级运行，以及它的权限到哪里为止。这一区分可以避免人工审核沦为空洞承诺，而现实中却无人有时间或信息介入。

可撤销、仅限内部且影响较小的操作，可以通过抽样审核。重要的对外沟通需要在发布前获得批准。敏感、涉及合同或影响权利的决策，需要获得授权的专业人员参与，某些情况下也不应自动化。时效也很重要：服务交接可能需要有人在几分钟内响应，而编辑内容可以等待安排好的审核。设计必须综合考虑后果、可撤销性、紧迫性和错误发现能力。

审批界面应展示原始请求、所用来源、拟议内容、相较前一版本的变化、有实际意义时的置信度，以及已识别的风险。如果审核人只能选择接受或拒绝，就容易惯性批准，或干脆重做全部内容。他们还需要能够编辑、要求澄清、升级处理并记录理由。这些理由可用于流程学习，并帮助识别需要修改的规则。

系统必须识别使其偏离正常路径的信号：敏感数据、模糊意图、威胁、商务承诺、严重投诉，或工具返回错误。每种例外都需要明确去向、优先级和最少必要上下文。如果没有人员可接手，智能体必须限制自己的操作，并告知切实可行的时间安排，而不是临场编造。当自动化知道何时停下，人们的体验才能得到保护。

仅统计批准次数还不够。团队应跟踪更正、拒绝、介入时间、重复原因、漏检错误和不必要的升级处理。批准率高，可能意味着表现出色，也可能意味着审核流于表面。将原始输出、人工决策和后续结果进行比较，能帮助团队判断应在哪里调整指令、工具、阈值或培训。