5.1 Agent能力边界定义

什么是AI Agent

Agent = 大模型 + 工具 + 记忆 + 规划

不是单一模型调用，而是：
感知 → 思考 → 行动 → 反馈 的闭环

Agent的核心能力

能力	说明	示例
理解	理解自然语言指令	"帮我分析本月销售数据"
规划	分解任务，制定步骤	拆解为：查数据→分析→生成报告
工具使用	调用API/搜索/计算器等	调用BI系统、写Python脚本
记忆	记住对话上下文	记住用户偏好、历史交互
推理	逻辑推理和判断	判断数据异常，给出建议
生成	生成文本/代码/报告	生成分析报告、可视化代码

Agent的能力边界

AI能做的

场景	适合度	说明
文档问答/知识检索	⭐⭐⭐⭐⭐	RAG场景，AI最擅长
数据查询/报表生成	⭐⭐⭐⭐	NL2SQL，自然语言转查询
客服对话/FAQ	⭐⭐⭐⭐⭐	标准化问答，高度适合
内容审核/分类	⭐⭐⭐⭐	规则+AI结合，效果好
报告撰写/总结	⭐⭐⭐⭐	基于已有内容的生成
简单流程自动化	⭐⭐⭐	单一流程，规则清晰

AI有挑战的

场景	挑战点	建议
复杂多步推理	步骤多了容易出错	拆解流程，人工节点把关
最新实时信息	知识有截止日期	RAG实时检索
高风险决策	错了后果严重	人工复核机制
高度创意工作	突破性创意	AI辅助，人工最终决策
模糊/不完整信息	推理困难	主动询问澄清

AI不适合的

场景	原因
需要法律责任签字的	AI不能承担法律责任
需要同理心的高级谈判	人的情感无法AI替代
全新领域无数据的决策	没有知识基础，AI也无能为力
涉及核心机密的	数据安全风险

定义AI能力边界的原则

原则一：容错空间
高容错（客服问答）→ AI可独立处理
低容错（金融风控）→ 必须人工复核

原则二：数据充分性
数据充足 → AI效果好
数据不足 → AI难以准确

原则三：可解释性要求
不需解释（内部知识库）→ AI直接回答
需要解释（合规审核）→ AI提供依据，人工判断

原则四：实时性要求
静态知识 → AI可以
实时变化 → 需要RAG或人工介入

能力边界文档模板

# AI能力边界定义文档

## 一、AI系统能力定义

### 1.1 AI能做什么
- [列出所有AI功能点]

### 1.2 AI不能做什么
- [列出AI的能力边界]

### 1.3 AI的局限
- 知识截止日期：[日期]
- 不擅长的输入类型：[列出]
- 不适合的场景：[列出]

## 二、人机协作分工
| 场景 | AI处理 | 人工处理 |
|------|--------|----------|
| | | |

## 三、边界触发机制
- 什么情况下AI应该转人工：
- 转人工的流程：
- 人工处理的SLA：