5.2 人类在闭环中的角色

人机协作不是替代，是分工

AI做：重复、标准化、高频、快速的
人做：判断、创意、例外、复杂的

最优模式：AI+人，各自做最擅长的事

人类在闭环中的四种角色

角色一：设计者（Designer）

定义AI做什么、如何做

- 场景选择：选适合AI的场景
- 流程设计：人机分工的流程设计
- 标准制定：AI质量标准、人机切换标准
- 效果评估：判断AI是否达标

典型时刻：
- 项目设计阶段
- 新功能上线前
- 效果评估周期

角色二：审核者（Reviewer）

AI输出 → 人类审核 → 正式结果

- 结果审核：AI答案是否准确
- 异常处理：AI不确定时的人工判断
- 质量把控：防止AI错误扩散
- 例外处理：AI无法处理时人工接手

典型时刻：
- AI上线初期（高频审核）
- AI效果下降期
- 高风险场景（每单必审）

角色三：训练者（Trainer）

持续优化AI能力

- Bad case标注：告诉AI什么是错的
- 知识更新：更新AI知识库
- Prompt优化：让AI回答得更好
- 新场景教：扩展AI能力范围

典型时刻：
- 持续运营阶段
- 每周/每月优化周期

角色四：使用者（User）

直接使用AI系统

- 日常查询：提问并获得答案
- 反馈评价：对AI答案评价（ thumbs up/down）
- 问题上报：报告AI的异常行为
- 需求提出：提出新场景需求

典型时刻：
- 日常使用
- 遇到问题时

典型人机协作模式

模式一：AI优先，人工兜底

适用场景：容错空间中等

流程：
用户问题 → AI处理（正常回答）→ 结果
              ↓（AI不确定）
           人工处理 → 结果

示例：智能客服
- AI能答 → 直接回复
- AI不确定 → 转人工

模式二：人工初审，AI复审

适用场景：需要人工确认

流程：
人工处理 → AI审核检查 → 结果
               ↓（AI发现问题）
            人工确认 → 结果

示例：合同审核
- 人工律师初审
- AI快速复核关键条款
- AI发现可疑点，人工确认

模式三：AI和人工并行，然后合并

适用场景：高复杂度任务

流程：
人工分析 ─┐
          ├→ 合并判断 → 最终结果
AI分析  ─┘

示例：市场分析报告
- 人工分析师给出判断
- AI给出数据分析视角
- 两者结合，得出结论

模式四：完全AI，人类周期性审计

适用场景：高频低风险

流程：
日常：AI全自动处理
定期：人类抽样审计 → 发现问题 → 优化AI

示例：FAQ自动回复
- 日常AI自动回答
- 每周抽100条人工复核
- 发现问题，更新知识库

人机协作比例参考