“能自动”不等于“该自动”：AI应用该留人工的三个位置

做应用时，默认目标常是“尽量少让人参与”。但跑过几轮就会发现，有些环节交给模型确实能跑，代价却是出错时没人接得住。我固定留人工的三个位置。

位置一：信息不足时

输入缺关键字段、原文含糊、检索不到依据——这类情况最该停下来，而不是让模型顺着语气补一个答案。“不知道”是一个合格输出，前提是结构上允许它出现。做法是给输出加一个必填的“依据”字段，取不到依据就转人工，不允许直接生成结论。

位置二：动作不可逆时

发送、删除、覆盖、批量写入。模型负责生成参数和草稿，真正执行前给人一次确认，并展示将影响的范围。批量操作尤其要先干跑一张对照表，BackendWiki 关于参数与默认值列清的写法 很适合拿来设计这张表——看得见，才敢点确认。

位置三：结果需要负责时

对外发布的文案、给别人的结论、涉及金额与时间的判断。这类输出即使质量稳定，也该有一道人眼。原因不是模型不行，而是责任无法转移：出了问题需要有人解释依据，而依据必须能被回查。

怎么判断该不该留

我用一个很简单的问法：如果这一步错了，能不能撤销、多久能发现、谁来解释？ 三问里只要有一问答不上来，就保留人工入口。

这三个位置之外的环节，尽量自动化：格式整理、归类、生成初稿、批量比对。把人放在不可逆、信息不足、需要负责的地方，注意力才花得值。任务编排上可以参照 WorkBuddy 官方文档，把“转人工”也画进流程图，而不是当成异常分支草草带过。

补一句：把适用条件写清楚，跟 HTML 入门教程站把静态页面的前提逐条列出 是同一种习惯——先说清什么情况下适用，再谈效果。

小结

好的自动化不是把人全部拿掉，而是把人放在最该在的地方。三处留人，其余尽量交出去，应用既跑得快，出事也有人接得住。