核心观点：AI 应用开发不是堆砌技术名词，而是构建一条从模型选择到 Agent 智能体的完整价值交付链路。
一、引言：为什么你需要这张"全景图"
很多 AI 学习者都有这样的困惑：
“学了很多 AI 名词，还是做不出项目；会调用模型接口，还是搭不起业务闭环；做了几个 Demo，还写不进简历。”
问题的根源不在于你不够努力，而在于缺乏系统结构感。今天看 Prompt 技巧，明天看 RAG 教程，后天刷 LangChain 示例，再过两天试一个 Agent Demo——这种碎片化学习让你永远在表面徘徊。
本文将给你一张完整的 AI 应用开发地图。读完它，你会知道：
- 每个技术环节在整体架构中的位置和作用
- 什么时候该用什么技术，不该用什么
- 如何把这些技术组装成一个真正的产品
二、整体架构：五层技术栈
AI 应用开发可以分解为五个核心层次：
┌─────────────────────────────────────────────────────────────┐ │ Agent（智能体）层 │ │ 推理、规划、工具使用、记忆、反思 │ ├─────────────────────────────────────────────────────────────┤ │ 应用框架层 │ │ LangChain、LlamaIndex、自定义编排 │ ├─────────────────────────────────────────────────────────────┤ │ RAG（检索增强）层 │ │ 向量检索、文档处理、知识图谱 │ ├─────────────────────────────────────────────────────────────┤ │ 模型层 │ │ 基座模型、微调模型、专家混合 │ ├─────────────────────────────────────────────────────────────┤ │ 基础设施层 │ │ 部署、推理优化、监控、向量数据库 │ └─────────────────────────────────────────────────────────────┘核心原则：每一层都建立在下层之上，但上层的选择会反推下层的选型。
三、第一层：模型选择——不是越大越好
3.1 基线模型选择
| 应用场景 | 推荐模型 | 参数量 | 特点 |
|---|---|---|---|
| 通用对话 | GPT-4、Claude 3、LLaMA 3 | 70B+ | 能力强，成本高 |
| 垂直领域 | Qwen、Baichuan、ChatGLM | 7B-14B | 性价比高，可微调 |
| 端侧部署 | Qwen2-0.5B、Phi-3-mini | <1B | 极致轻量，离线可用 |
| 代码生成 | CodeLlama、DeepSeek-Coder | 7B-34B | 专精代码 |
3.2 模型选型的三把尺子
第一把尺子：任务复杂度
- 简单任务（分类、提取）：小模型 + 提示工程足够
- 中等任务（对话、摘要）：中等模型 + 少量微调
- 复杂任务（推理、多跳问答）：大模型 + RAG + Agent
第二把尺子：延迟要求
- 实时响应（<500ms）：选小模型 + 量化 + 推理优化
- 可接受延迟（1-3s）：中等模型可满足
- 离线/异步：可以用大模型
第三把尺子：成本约束
成本公式 = API调用成本 + 推理算力成本 + 维护成本 典型对比（100万Token/月）： - GPT-4 API：约 $15-30 - LLaMA-8B 本地推理：约 $5-10（需GPU） - Qwen-1.8B 本地推理：约 $0.5-1（CPU即可）3.3 实践建议
不要盲目追求大模型。很多场景下，一个经过精心提示工程的小模型，效果往往超过"裸用"的大模型。
典型案例：
| 任务 | 大模型方案 | 优化方案 | 效果 |
|---|---|---|---|
| 情感分类 | GPT-4 直接判断 | Qwen-7B + 5-shot prompt | 成本降低 90%，准确率相当 |
| 意图识别 | GPT-4 API | ChatGLM-6B 微调 | 延迟从 3s 降到 300ms |
| 实体抽取 | Claude API | 本地 7B 模型 + 正则校验 | 成本降低 95% |
四、第二层：提示工程——让你的模型更聪明
4.1 提示工程的核心原理
本质：提示工程是一种"编程"方式，通过设计输入来控制模型输出。
传统编程：代码 → 编译器 → 输出 提示工程：自然语言 → LLM → 输出4.2 提示工程的五个层次
层次一：零样本提示（Zero-shot）
输入："把以下评论分类为正面或负面：服务很差" 输出："负面"层次二：少样本提示（Few-shot）
输入：""" 例子1：产品很好用 -> 正面 例子2：有点失望 -> 负面 待分类：超出预期 -> ？ """ 输出："正面"层次三：思维链提示（Chain-of-Thought）
输入：""" 问题：小明有5个苹果，小红给了他3个，他又吃了2个，还剩多少个？ 让我们一步步思考： """ 输出："..."层次四：ReAct 提示（Reason + Act）
输入：""" 问题：今天北京天气如何？ 思考：我需要先查询北京天气 行动：调用天气API 观察：API返回晴天，25度 结论：今天北京晴天，气温25度 """层次五：自我反思（Self-Reflection）
输入：""" 生成回答后，检查以下问题： 1. 事实性：是否有幻觉？ 2. 完整性：是否回答了所有问题？ 3. 安全性：是否有害内容？ """4.3 提示工程实战技巧
技巧一：结构化输出
# 不好的提示"帮我总结这篇文章"# 好的提示"""请按以下JSON格式总结文章： { "title": "文章标题", "summary": "不超过100字的摘要", "key_points": ["要点1", "要点2", "要点3"], "sentiment": "positive|neutral|negative" } """技巧二：分隔符隔离
prompt=""" 请根据以下上下文回答问题。 ========上下文======== {context} ================== ========问题======== {question} ================== 请先引用相关原文，再给出回答。 """技巧三：角色设定
prompt=""" 你是一位资深技术架构师，有10年以上的系统设计经验。 你的风格是：深入浅出、注重实战、强调可行性。 请分析以下场景，给出架构建议： {scenario} """4.4 提示工程的局限
- 上下文限制：模型有 token 上限（通常 4K-128K）
- 一致性不稳定：相同提示不同调用可能有不同结果
- 无法精确控制：模型可能"过度发挥"或"理解偏差"
这就是为什么需要下一层：RAG。
五、第三层：RAG（检索增强生成）——解决知识截止和幻觉
5.1 为什么要 RAG？
大模型的两大痛点：
| 问题 | 表现 | RAG 解决方案 |
|---|---|---|
| 知识截止 | 训练数据不包含最新信息 | 实时检索最新文档 |
| 幻觉 | 一本正经地胡说八道 | 基于真实文档生成 |
5.2 RAG 完整流程
用户输入 → 编码 → 向量数据库检索 → 上下文拼接 → LLM 生成 → 输出 ↓ [文档1, 文档2, ..., 文档n]5.3 RAG 的核心组件
组件一：文档加载器
fromlangchain.document_loadersimportPyPDFLoader,TextLoader,WebLoader# PDF 文档loader=PyPDFLoader("report.pdf")docs=loader.load()# 网页loader=WebLoader("https://example.com/article")docs=loader.load()组件二：文本分块
fromlangchain.text_splitterimportRecursiveCharacterTextSplitter splitter=RecursiveCharacterTextSplitter(chunk_size=500,# 块大小chunk_overlap=50,# 重叠区域，保证连续性separators=["\n\n","\n","。",""]# 按优先级分割)chunks=splitter.split_documents(docs)组件三：向量化嵌入
fromlangchain.embeddingsimportHuggingFaceEmbeddings# 选择嵌入模型embeddings=HuggingFaceEmbeddings(model_name="BAAI/bge-small-zh-v1.5"# 中文效果好的模型)# 向量化vectors=embeddings.embed_documents
