文章详细介绍了AI Agent的定义与三大核心组件：记忆系统（短期与长期记忆）、工具调用（与外部环境交互）和规划能力（任务分解与执行）。通过这些组件，Agent能增强LLM能力，执行复杂任务，并通过反思机制不断优化。文章还探讨了多智能体协作框架及开源实现方案，为构建高效智能体提供全面指导。

AI Agent的定义与功能

AI Agent越来越为人们熟知，我们熟悉的那种对话式大模型，正在慢慢淡出视野。但这些Agent所包含的复杂功能，往往需要许多组件模块协同工作。

问题来了，什么是Agent？

传统意义上，LLM是一个概率预测模型，用于预测下一个token产生的概率。

通过连续对tokens进行采样，我们就可以模拟与LLM进行对话，使用LLM辅助查询更多信息，为我们提供更广泛的答案。

然而，任何LLM都会在我们对话的过程中，暴露出它的缺点：没有记忆能力，记不住上一轮对话。

这就是为什么，LLM会在一些基本的数学运算的任务上出现失败，本身LLM是一个概率模型，针对这种精确的计算任务也望尘莫及。

不是它不行，这是它的本身限制所在。

这种情况并不意味着LLM是非常糟透了的！LLMs不需要拥有全部的超能力，我们可以借助外部工具、记忆和检索系统来弥补不足。通过外部系统（工具、记忆、检索），LLM的能力可以得到进一步的增强，不再出现那种突然的“短路”和记忆缺失。

Anthropic将这称为“增强的LLM”。

再次面对同样的数学问题，增强式的LLM会**直接使用（这种是通过设置提示词去调度的，遇到数学问题，就用计算器）**合适的工具（一个计算器）。

那么，这种增强式的LLM是Agent吗？它有Tool，Memory，LLM，或许算是…

回顾一下Agent基本定义：

Agent是指任何可以被视为通过传感器感知其环境，并通过对环境的执行器采取行动的东西。

—— Russell & Norvig, 人工智能：现代方法（2016）

从定义来看，Agent是与环境进行交互，有很重要的几个组件：

• 环境 — 代理互动的世界
• 传感器 — 用于观察环境
• 执行器 — 用于与环境互动的工具
• 效应器 — 决定如何从观察到行动的“大脑”或规则

适用于与各种环境交互的代理，包括机器人与物理环境交互、AI Agent与软件系统交互。泛化到更加广阔的边界，适用于“Augmented LLM”。

上述我们所说的增强式LLM，就是通过对话框内容输入，进而观察环境，并通过使用工具执行某些操作（比如AI搜索）。

那么除了执行工具和LLM大脑，如何有效地执行任务同样重要。

AI Agent有一个非常重要的部分：规划能力。这就要求LLM需要通过链式思维等方法进行“推理”和“思考”。

通过这种链式的推理思考，AI Agent会规划出执行任务的步骤，说明具体每一步怎么执行等等。

回顾Agent的定义，一个完备的Agent需要具有LLM大脑+规划能力+工具调用+记忆能力。

LLM让智能体能够理解任务，然后规划任务执行的步骤，使用各种工具去执行，并且实时的记录已经采取的行动（长期记忆和短期记忆）。

LLM智能体也分为不同自主程度的，其实就是系统执行任务的行为有多少是LLM主动去做的。一个系统越“有自主性”，系统的行为就越由LLM决定。

接下来，我将通过LLM Agent的组件来探讨自主行为方法：记忆、工具和规划。

记忆（Memory）

LLMs非常健忘，与之交互时根本不进行任何记忆操作。当你向LLM提出一个问题，然后又提出另一个问题时，它不会记住前一个问题。

这种也称为短期记忆（或工作记忆），一种近似即时上下文的缓冲区。

如何开启短期记忆？

使用模型的上下文窗口就可以（比如大模型一般会标注xxk），其实是LLM可以处理的token数量。

一般上下文窗口至少包含8192个token，最多可以到数十万token！

在实际使用中，可以使用较大的上下文窗口，将完整的对话历史作为输入提示的一部分。并不是去记住对话内容，而是告诉LLM上一轮对话的内容。

对于上下文窗口较小的模型，或对话历史较长时，使用另一个LLM来总结迄今为止发生的对话。通过不断总结对话，保持这次对话的规模较小。

长期记忆

但是，在常见的Agent中，需要跟踪规划任务中的少至十个、多至几十个步骤，上述的短期记忆（临期操作）还不够。有了短期记忆，自然也有长期记忆，理论上Agent可以记住几百步的步骤，其中某些步骤可以并行。

长期记忆包括需要在较长时间内保留的代理过去的行为空间。一种常见的方法是将所有之前的交互、行动和对话存储在外部向量数据库（将对话嵌入到能够捕捉其含义的数值表示）中，以启用长期记忆。长期记忆可以涉及保留不同会话中的信息。

建立向量数据库后，可以嵌入任何给定的提示，将提示嵌入与数据库嵌入进行比较，在向量数据库中找到最相关的信息。这个过程想必好的人都耳熟能详，没错，就是检索增强生成（RAG）。

不同类型的信息与不同的记忆类型相关联以进行存储。在心理学中，有多种类型的记忆需要区分，在《语言代理的认知架构》论文将其中四种类型记忆与Agent关联起来。

工具（Tool）

工具允许LLM与外部环境进行交互，或使用外部应用程序（如运行自定义代码）。

工具通常有两类用途：

• 获取数据以检索最新信息
• 采取行动如安排会议或订购食物

要实际使用一个工具，LLM必须生成符合给定工具API的文本。我们通常期望生成可以格式化为JSON的字符串，以便可以轻松地将其传递给代码解释器。

可以生成自定义函数，LLM可以使用这些函数，比如一个基本的乘法函数。这通常被称为函数调用。

有些LLMs如果被正确且详细地提示，可以使用任何工具。大多数当前的LLMs都能使用工具。一种更稳定的方法是通过微调LLM访问工具。

工具可以在给定的顺序中使用，如果代理框架是固定的……

或者LLM可以自主选择使用哪个工具以及何时使用。LLM像上述图片中的代理本质上是一系列LLM调用（但具有自主选择动作/工具等的能力）。

换句话说，中间步骤的输出会被反馈回LLM继续处理。

Toolformer工具使用可以增强LLMs的能力并弥补其缺点。

一种早期的技术被称为Toolformer，这是一种训练模型来决定调用哪些API及其方式的技术。它通过使用[和]标记来指示调用工具的开始和结束。当给定提示，例如“5乘以3是什么？”，它会生成标记直到遇到标记。

Toolformer通过精心生成一个包含许多模型可以训练的工具使用数据集来创建这种行为。对于每种工具，都会手动创建几个示例提示，并使用这些提示来采样使用这些工具的输出。

输出会根据工具使用、输出的正确性以及损失减少进行筛选。生成的数据集用于训练一个LLM，使其遵循这种工具使用的格式。

模型上下文协议（MCP）

工具是Agent框架的重要组成部分，允许LLMs与外部世界互动并扩展其能力。当你有多种不同的API时，启用工具使用变得麻烦，因为任何工具都需要：

• 手动跟踪并提供给LLM
• 手动描述（包括其预期的JSON模式）
• 手动更新每当其API发生变化时

为了让给定的Agent框架容易实现工具，Anthropic发布了模型上下文协议（MCP）。MCP协议标准化了各种服务的API访问。由三个组件组成：

• MCP Host — LLM应用程序（例如Cursor）管理连接
• MCP Client — 与MCP服务器保持一对一的连接
• MCP Server — 为LLMs提供上下文、工具和功能

一个例子：希望某个LLM应用程序总结您仓库中的最新5次提交。

MCP主机（与客户端一起）会首先调用MCP服务器以询问哪些工具可用。

LLM接收信息并可以选择使用一个工具。它通过主机向MCP服务器发送请求，然后接收结果，包括使用的工具。

LLM接收结果并可以解析一个答案给用户。

这个框架通过连接任何LLM应用程序都可以使用的MCP服务器，使创建工具变得更加容易。当你创建一个与Github交互的MCP服务器时，任何支持MCP的LLM应用程序都可以使用它。

规划（Planning）

Agent中的规划就是将给定任务分解为可执行的步骤。

执行计划允许大模型迭代反思过去的行为，并在必要时更新当前计划。

推理

LLM在执行复杂任务之前，需要进行制定可执行步骤，就需要强大的推理能力，和人的大脑一样，在接受到上级的任务之后，会思考具体怎么执行。

这种推理行为要么对LLM微调或特定的提示工程来实现。

通过提示工程创建LLM应遵循的推理过程示例。提供示例（也称为少量提示）是一种很好的方法，可以引导LLM的行为。【链式思考】

链式思考也可以在零样本情况下通过说“让我们一步一步地思考”来启用。

DeepSeek-R1的训练过程中，奖励被用来引导思考过程而使用。

推理与行动

LLM启用推理能力，不一定能够规划出可行的执行步骤。

fig1：展示推理行为 fig2：通过工具与环境互动最早结合这两种过程的技术之一被称为ReAct（推理和行动）。

最早结合这两种过程的技术之一被称为 ReAct（推理和行动）。

ReAct通过提示工程来实，描述了三个步骤：

• 思考 — 当前情况的推理步骤
• 行动 — 执行的一组操作（例如，工具）
• 观察 — 对行动结果的推理步骤

LLM使用此提示（可作为系统提示）来引导其行为，在思维、行动和观察的循环中工作。

这种行为不断循环，直到某个动作指明返回结果。

通过迭代思考和观察，LLM可以规划出行动，观察其输出，并相应地进行调整。

反思（Reflection）

即使有ReAct的LLMs，也不能完美地执行每一项任务。

Reflexion是一种通过口头强化来帮助代理从先前的失败中学习的技术。

该方法假设有三个角色：

• 执行者 — 根据状态观察选择并执行行动。我们可以使用链式思考或ReAct等方法。
• 评估者 — 评估执行者产生的输出。
• 自我反思 — 反思行动执行者采取的行动以及评估器生成的评分。

如下，添加了记忆模块来跟踪行动（短期）和自我反思（长期），帮助代理从错误中学习并识别改进的行动。

另一种技术被称为SELF-REFINE，其中对输出进行精炼和生成反馈的动作会重复进行。

由同一个LLM负责生成初始输出、精炼输出和反馈。

这种自我反思行为，无论是Reflexion还是SELF-REFINE，都与强化学习非常相似，在这种学习中，根据输出的质量给予奖励。

多智能体协作（Multi-Agent Collaboration）

当前的单Agent存在一些问题：过多的工具、过长的上下文、任务过于松散等。在多Agent框架，多个Agent（都有工具、记忆和规划能力）相互作用并与其环境互动：

多Agent系统由专业Agent组成，每个Agent都配备了自己的一套工具，并由监督者管理。监督者负责管理Agent之间的通信，并可以为专门化的Agent分配特定任务。

市面上很多的Agent架构，核心是两个组件：

• Agent初始化：个别（专业化）的Agent如何创建？
• Agent编排：所有Agent如何协调？

这两种组件的实现方式，在其他多智能体框架里面可以找到答案。

人类行为的交互式模拟

在论文《Generative Agents: Interactive Simulacra of Human Behavior》里面，作者创建了模拟人类行为的生成式Agent。

每个生成型Agent具有不同的个人资料，表现出不同的行为方式，增加了互动性和趣味性。

每个Agent初始化时包含三个模块（记忆、规划、反思），与ReAct和Reflexion的核心组件非常相似。

记忆模块存储了所有规划和反思行为，以及迄今为止的所有事件。对于任何下一步或问题，会检索记忆并根据其新鲜度、重要性和相关性进行评分。得分最高的记忆会被分享给Agent。

他们共同使得Agent能够自由地进行行为并相互交互。因此，Agent之间几乎没有需要进行协调的地方，因为它们没有特定的目标需要完成。

评估指标主要以Agent行为的可信度为指标，由人类评估者打分。

由此可见，Agent在执行任务做规划时，没有反思行为是不完整的。

模块化框架

有各种开源框架（AutoGen、MetaGPT、CAMEL）可以用于创建多智能体系统，通常包括：配置文件、环境感知、记忆、计划和动作。

使用CAMEL时，用户首先创建其问题，并定义AI用户和AI助手角色。AI用户角色代表人类用户，并将引导整个过程。

AI用户和AI助手将通过彼此互动来合作，角色扮演方法使Agent之间能够进行协作沟通。

在过去一年，尤其是最近几周，这些框架的增长是爆炸性的。

随着这些框架不断成熟和发展，2026年将是真正令人兴奋的一年！

小白/程序员如何系统学习大模型LLM？

作为在一线互联网企业深耕十余年的技术老兵，我经常收到小白和程序员朋友的提问：“零基础怎么入门大模型？”“自学没有方向怎么办？”“实战项目怎么找？”等问题。难以高效入门。

这里为了帮助大家少走弯路，我整理了一套全网最全最细的大模型零基础教程。涵盖入门思维导图、经典书籍手册、实战视频教程、项目源码等核心内容。免费分享给需要的朋友！

👇👇扫码免费领取全部内容👇👇

1、我们为什么要学大模型？

很多开发者会问：大模型值得花时间学吗？答案是肯定的——学大模型不是跟风追热点，而是抓住数字经济时代的核心机遇，其背后是明确的行业需求和实打实的个人优势：

第一，行业刚需驱动，并非突发热潮。大模型是AI规模化落地的核心引擎，互联网产品迭代、传统行业转型、新兴领域创新均离不开它，掌握大模型就是拿到高需求赛道入场券。

第二，人才缺口巨大，职业机会稀缺。2023年我国大模型人才缺口超百万，2025年预计达400万，具备相关能力的开发者岗位多、薪资高，是职场核心竞争力。

第三，技术赋能增效，提升个人价值。大模型可大幅提升开发效率，还能拓展职业边界，让开发者从“写代码”升级为“AI解决方案设计者”，对接更高价值业务。

对于开发者而言，现在入门大模型，不仅能搭上行业发展的快车，还能为自己的职业发展增添核心竞争力——无论是互联网大厂的AI相关岗位，还是传统行业的AI转型需求，都在争抢具备大模型技术能力的人才。

人工智能大潮已来，不加入就可能被淘汰。如果你是技术人，尤其是互联网从业者，现在就开始学习AI大模型技术，真的是给你的人生一个重要建议！

2、大模型入门到实战全套学习大礼包分享

最后再跟大家说几句：只要你是真心想系统学习AI大模型技术，这份我耗时许久精心整理的学习资料，愿意无偿分享给每一位志同道合的朋友。

在当前这个人工智能高速发展的时代，AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长，真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料，能够帮助更多有志于AI领域的朋友入门并深入学习。

部分资料展示

2.1、 AI大模型学习路线图，厘清要学哪些

对于刚接触AI大模型的小白来说，最头疼的问题莫过于“不知道从哪学起”，没有清晰的方向很容易陷入“东学一点、西补一块”的低效困境，甚至中途放弃。

为了解决这个痛点，我把完整的学习路径拆解成了L1到L4四个循序渐进的阶段，从最基础的入门认知，到核心理论夯实，再到实战项目演练，最后到进阶优化与落地，每一步都明确了学习目标、核心知识点和配套实操任务，带你一步步从“零基础”成长为“能落地”的大模型学习者。后续还会陆续拆解每个阶段的具体学习内容，大家可以先收藏起来，跟着路线逐步推进。

L1级别:大模型核心原理与Prompt

L1阶段：将全面介绍大语言模型的基本概念、发展历程、核心原理及行业应用。从A11.0到A12.0的变迁,深入解析大模型与通用人工智能的关系。同时,详解OpenAl模型、国产大模型等,并探讨大模型的未来趋势与挑战。此外,还涵盖Pvthon基础、提示工程等内容。
目标与收益:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为AI应用开发打下坚实基础。

L2级别：RAG应用开发工程

L2阶段：将深入讲解AI大模型RAG应用开发工程,涵盖Naive RAGPipeline构建、AdvancedRAG前治技术解读、商业化分析与优化方案,以及项目评估与热门项目精讲。通过实战项目，提升RAG应用开发能力。

目标与收益:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。

L3级别：Agent应用架构进阶实践

L3阶段：将 深入探索大模型Agent技术的进阶实践,从Langchain框架的核心组件到Agents的关键技术分析,再到funcation calling与Agent认知框架的深入探讨。同时,通过多个实战项目,如企业知识库、命理Agent机器人、多智能体协同代码生成应用等,以及可视化开发框架与IDE的介绍,全面展示大模型Agent技术的应用与构建。

目标与收益:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。

L4级别:模型微调与私有化大模型

L4级别：将聚焦大模型微调技术与私有化部署,涵盖开源模型评估、微调方法、PEFT主流技术、LORA及其扩展、模型量化技术、大模型应用引警以及多模态模型。通过chatGlM与Lama3的实战案例,深化理论与实践结合。

目标与收益:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。

2.2、 全套AI大模型应用开发视频教程

从入门到进阶这里都有，跟着老师学习事半功倍。

2.3、 大模型学习书籍&文档

收录《从零做大模型》《动手做AI Agent》等经典著作，搭配阿里云、腾讯云官方技术白皮书，帮你夯实理论基础。

2.4、AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

2.5、大模型大厂面试真题

整理了百度、阿里、字节等企业近三年的AI大模型岗位面试题，涵盖基础理论、技术实操、项目经验等维度，每道题都配有详细解析和答题思路，帮你针对性提升面试竞争力。

【大厂 AI 岗位面经分享（107 道）】

【AI 大模型面试真题（102 道）】

【LLMs 面试真题（97 道）】

2.6、大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

适用人群

四阶段学习规划（共90天，可落地执行）

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型

• 带你了解全球大模型

• 使用国产大模型服务

• 搭建 OpenAI 代理

• 热身：基于阿里云 PAI 部署 Stable Diffusion

• 在本地计算机运行大模型

• 大模型的私有化部署

• 基于 vLLM 部署大模型

• 案例：如何优雅地在阿里云私有部署开源大模型

• 部署一套开源 LLM 项目

• 内容安全

• 互联网信息服务算法备案

• …

  👇👇扫码免费领取全部内容👇👇

3、这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】