一、上下文学习

上下文学习强调在学习过程中考虑问题所处的上下文环境。

1.1 上下文学习的分类

• 零样本（Zero-Shot）上下文学习
• 单样本（One-Shot）上下文学习
• 少样本（Few-Shot）上下文学习

1.2 示例选择方法

两个主要依据是相似性和多样性。

• 直接检索：然后选取排名靠前的K个示例。
• 聚类检索：把所有示例划分为K个簇，从每个簇中选取最为相似的示例，获取K个示例。
• 迭代检索：下一个示例的选择依赖于当前的问题和已选择的示例。

1.3 性能影响因素

• 预训练数据：领域丰富度、任务多样性、训练数据的分布
• 预训练规模：模型参数规模
• 演示示例：示例的数量和顺序

---

二、思维链

2.1 两种任务类型

（1）System-1任务

• 依靠直觉和经验进行瞬间判断。
• 随着规模（参数量、训练数据、算力）变大，模型性能显著提升。

（2）System-2任务

• 运用逻辑分析、计算和有意识的思考来解决。
• 模型会出现“Flat Scaling Curves”现象——即模型规模增长未带来预期性能提升。

2.2 思维链的定义

在提示中嵌入一系列中间推理步骤，引导大模型模拟人类解决问题时的思考过程，以提升模型处理System-2任务的能力。

2.3 思维链的分类

在标准COT方法上，出现了许多扩展方法，这些方法按照其推理方式的不同，可以归纳为三种模式：按部就班、三思而行、集思广益。

按部就班模式

强调逻辑的连贯性和步骤的顺序性。

代表方法：

• COT：手工构造（费时费力）例子，作为示例放入Prompt，引导模型一步一步推理。
• Zero-Shot COT：无需手工标注，只需提供简单的提示，如“Let's think step by step”，引导模型自行生成一条推理链。

魔法咒语：Let's think step by step.

• Auto COT：聚类算法自动筛选相关样本，Zero-Shot生成思维链内容作为示例，引导大语言模型生成针对用户问题的推理链和答案。

不足：

• 局部：在思维过程中不会探索不同的后续内容，即树的分支。
• 全局：顺序链式输出，不存在回溯的过程。

三思后行模式

强调审慎和灵活。

代表方法：

• Tree of Thoughts（TOT）：将推理过程构造为一棵思维树，允许模型在不确定时进行回溯和重新选择。TOT从拆解、衍生、评估、搜索四个角度构造思维树。

• Graph of Thoughts（GOT）

集思广益模式

强调观点和方法的多样性。

代表方法：

• Self-Consistency：引入多样性的推理路径，从中提取并选择最一致的答案。

• Universal Self-Consistency：利用LLMs自身选择最一致答案，支持更多种任务，无需答案提取过程。

---

三、Prompt工程

3.1 Prompt规范

编写规范的Prompt是与大语言模型进行有效沟通的基础。一个标准规范的Prompt通常由任务说明、上下文、问题、输出格式这几个部分中的一个或几个来组成。

3.2 Prompt技巧

• 复杂问题拆解
• 追问
• 适时使用COT
• 善用心理暗示：角色扮演or情景代入

3.3 Prompt工程应用

可以通过精心设计的Prompt激活大语言模型的内在潜力，而不需要对模型进行微调。Prompt已经在垂域任务、数据增强、智能代理等多个领域发挥出卓越性能。

（1）自然语言接口

• Text to SQL
• 代码生成

（2）大模型支撑的数据合成

• Self-Instruct

（3）大模型增强的搜索引擎

（4）大模型赋能智能体

经典的智能体通常由大语言模型和四大模块组成，分别是：配置模块（Profile）、记忆模块（Memory）、计划模块（Planning）、行动模块（Action）。

单智能体仅包含一个智能体，交互相对简单，适用于简单任务。Prompt设计主要用于引导模型执行特定任务，且围绕单个上下文。

多智能体包含多个智能体，每个智能体都设定有角色和任务，交互复杂度高。他们协调、合作、竞争，以实现共同或各自目标。

（5）大模型驱动的具身智能

大语言模型是AGI的智慧引擎，机器人是大语言模型走向真实世界的物理载体。

---

四、参考

bilibili：浙江大学-大模型原理与技术