检索增强生成（RAG - Retrieval-Augmented Generation）
用户输入问题，AI 结合知识库内容和相关知识，生成准确、真实、具有时效性的回答结果。
生成流程
- 检索阶段：根据用户输入内容，AI 在知识库中检索相关片段。
- 增强阶段：拼接检索得到的相关文本和用户输入，形成增强后的上下文。
- 生成阶段：基于增强后的上下文，生成最终的 AI 回答结果。
优点
- 提升生成结果的准确度。
- 实现动态实时资料更新。
- 可根据领域替换相关专业知识。
- 可追溯答案来源。
存在问题
- 依赖检索资料的质量，资料质量差可能会有反效果。
- 引入额外的计算和 IO 开销，生成速度更慢。
- 需要定期维护检索的数据，使之保持最新。
- 上下文受 AI 限制，对于过大的知识库存在瓶颈。
微调（Fine-Tuning）
使模型在某些领域专业化，适合用于专业领域研究。
使小模型在专业领域也能发挥作用，减少硬件开销成本。
微调 vs RAG
| 对比项 | 微调（Fine-Tuning） | RAG |
|---|---|---|
| 知识来源 | 内化到模型参数中 | 外部知识库实时检索 |
| 更新成本 | 需要重新训练 | 只需更新知识库 |
| 适用场景 | 固定领域、风格调整 | 需要时效性、可追溯的场景 |
| 资源消耗 | 训练时高，推理时低 | 训练时低，推理时有检索开销 |
适用场景
- 提示词：适合最基础的场景。
- 微调：使模型适用对应领域。
- RAG：引入知识库，提高专业领域的准确性。
- RAG + 微调：使模型适应性和专业领域能力都得到提高， RAG 提供事实数据 ，再通过微调的模型负责理解、推理与表达。
工具调用（Tool Calling / Function Calling）
给 AI 配备工具箱，让 AI 自动调用工具完成工作。
让模型具备调用外部 API 的能力，扩展 AI 的实际操作范围。
常见能力
- 支持读写文件
- 搜索代码
- 运行命令
- 访问文档
- 检查错误
工作流程
- AI 模型接收用户请求，并识别到需要额外能力。
- 模型按 JSON 格式生成一段特殊响应，指定要使用的工具及其参数。
- 应用程序运行该工具并返回结果。
- AI 模型将结果纳入上下文并继续对话。
工具调用内容
AI 调用时，会把数据转成 JSON 格式发送。
被调用的工具包含的核心参数内容：
- name：调用的工具名称。
- description：告知模型工具的用途和使用方式。
- parameters：告知 AI 运行工具所需的参数和用途。
工具定义示例：
{"name":"read_file","description":"从代码库中读取文件内容","parameters":{"filepath":"要读取的文件路径"}}AI 调用示例：
{"tool":"read_file","parameters":{"filepath":"src/components/Button.tsx"}}Token 消耗
使用工具会更快占满上下文窗口，调用工具会在两个地方消耗 token：
- 将工具定义包含在输入上下文中（通常每个工具会占用几百个 token）。
- 将工具结果添加到输出上下文中（具体取决于工具返回的内容）。
模型上下文协议（MCP - Model Context Protocol）
类似于 USB 协议，实现 AI 工具和应用之间的即插即用。
MCP 是一种标准化协议，只需编写一套工具，就可以在多个 AI 应用中运行。
使 AI 更方便集成到各类应用中并使用各种工具。
核心价值：
- 标准化：统一的工具调用接口。
- 可复用：一次开发，多处使用。
- 互操作：不同 AI 应用间的工具共享。
智能体（AI Agent）
类似于自动驾驶，AI 自主规划路线并执行任务。
手把手教你从0到1搭建一个AI Agent(智能体)
本质是多个工具在循环运行，将开发者从任务执行者转变为任务管理者。
将最终要实现的内容告诉 AI，让 AI 完成整个流程，而非一次次的问答。AI 根据自身推理逐步调用工具完成任务。
核心特点
- 自主推理：具有自主规划和决策能力。
- 工具集成：可调用多种工具执行实际操作。
- 循环执行：观察 → 思考 → 行动 → 反馈的闭环。
存在问题
- 只能类比为初级开发者，在开发过程中需要进行测试和约束。
- 可能会存在循环试错的问题，需要人工介入。
使用建议
- 从小任务逐步向大任务过渡。
- 将其作为执行者，开发者作为审查人和架构师存在。
相关产品
- AI 编辑器：Cursor、Cline、Trae 等。
- AI 视频创作：自动化视频生成工具。
参考资料
- Tool Calling | Cursor Learn
- Retrieval Augmented Generation (RAG) and Semantic Search for GPTs
- 微調與 RAG：哪種方法可以最大限度地提高 LLM 的績效？
- RAG vs fine-tuning vs. prompt engineering | IBM
