6.1 AI落地工具全景图

AI落地工具分层架构

┌────────────────────────────────────────────────────┐
│                   应用层                            │
│   智能客服 | 知识库问答 | 数据分析 | 文档处理       │
├────────────────────────────────────────────────────┤
│                   模型层                            │
│   GPT-4 | Claude | Gemini | 国产模型 (通义/混元/讯飞)│
├────────────────────────────────────────────────────┤
│                   框架层                            │
│   RAG框架 | Agent框架 | Prompt框架                  │
├────────────────────────────────────────────────────┤
│                   工具层                            │
│   向量数据库 | 搜索工具 | 代码执行 | API网关        │
├────────────────────────────────────────────────────┤
│                   数据层                            │
│   数据清洗 | 知识库构建 | 数据标注 | ETL管道        │
├────────────────────────────────────────────────────┤
│                   平台层                            │
│   云平台 | 私有化部署 | 混合部署                    │
└────────────────────────────────────────────────────┘

各层核心工具清单

应用层工具

场景	推荐工具	说明
对话机器人	Dify / Coze / LangChain	快速搭建对话应用
知识库问答	FastGPT / anything-llm	知识库+LLM
自动化流程	n8n / Zapier	工作流自动化
数据分析	ChatBI类产品	NL2SQL类
OCR识别	百度/阿里/腾讯OCR	文档数字化

模型层工具

类型	推荐	特点
通用对话	GPT-4 / Claude 3.5	效果好，成本高
国产通用	通义千问 / 混元 / 讯飞星火	合规，能力接近GPT
开源模型	Llama3 / Qwen2 / DeepSeek	私有化，成本低
Embedding	text-embedding-3 / BGE / M3E	向量化

框架层工具

类型	推荐工具	说明
RAG	LangChain / Dify / FastGPT	知识检索增强
Agent	LangChain / Coze / AutoGen	Agent开发框架
Prompt	PromptBase / Few-shot案例库	Prompt管理

工具层工具

类型	推荐工具	说明
向量数据库	Milvus / Pinecone / Chroma	知识存储检索
搜索	ES / Meilisearch	全文检索
API网关	Kong / APISIX	接口管理
代码执行	Python REPL / 代码沙箱	安全执行

数据层工具

类型	推荐工具	说明
数据标注	Label Studio / Doccano	标注平台
数据清洗	OpenRefine / Python Pandas	数据处理
ETL	Airflow / Kettle	数据管道
数据可视化	Metabase / Superset	BI工具

平台层选择

部署方式	适用场景	推荐
公有云API	快速启动、合规要求低	AWS Bedrock / 阿里云百炼
私有化部署	数据安全要求高	私有化大模型+向量数据库
混合部署	兼顾安全与成本	敏感数据私有化，通用能力用API

工具选型决策矩阵

维度	权重	云API	私有化开源	SaaS产品
部署速度	20%	⭐⭐⭐	⭐⭐	⭐⭐⭐⭐
数据安全	25%	⭐⭐	⭐⭐⭐⭐⭐	⭐⭐⭐
成本效率	20%	⭐⭐⭐	⭐⭐⭐⭐⭐	⭐⭐⭐
定制能力	15%	⭐⭐⭐	⭐⭐⭐⭐⭐	⭐⭐
运维复杂度	10%	⭐⭐⭐⭐⭐	⭐⭐	⭐⭐⭐⭐
技术支持	10%	⭐⭐⭐⭐	⭐⭐	⭐⭐⭐⭐