【建议收藏】一文搞懂大模型上下文工程:提示词工程的进阶指南

文章介绍了大模型上下文工程的基础概念,解析其与提示词工程的互补关系。上下文工程由三大组件构成:上下文获取与生成(提示词工程、外部知识检索、动态上下文组装)、上下文处理(长上下文处理、多模态整合等)和上下文管理(记忆层级、上下文压缩等)。这些技术通过RAG系统、记忆系统等实现方式,共同提升大模型的理解能力和应用效率,是构建更智能AI系统的基础。

基础介绍

近段时间也经常听到上下文工程这个词,花时间去了解了下,当前资料似乎都没有讲的很清楚,正好调研到一篇论文:A Survey of Context Engineering for Large Language Models. 让我们跟着这篇论文来揭开上下文工程的神秘面纱。

提示词,提示词工程,上下文工程之间有什么差异?

基础概念:

提示工程和上下文工程的核心差异:

实际上,提示词工程和上下文工程并不是对立的,而是互补的:

  • 提示词工程是上下文工程的一个组成部分,它负责在特定上下文中构建最有效的“指令”。
  • 上下文工程则负责为提示词提供“舞台”,确保模型在执行任务时拥有足够的信息和工具。

下面我们具体介绍上下文工程。该论文提供了一个清晰的结构:

上下文工程的三大组件

上下文获取与生成(Context Retrieval and Generation)、上下文处理(Context Processing)、上下文管理(Context Management)

1️⃣ 上下文获取与生成(Context Retrieval and Generation)

这一部分关注如何构建和获取用于推理的上下文信息,包含三种主要方式:

  • 提示词工程与上下文生成

利用人类设计的提示词或自动生成机制,引导模型产生目标信息。

包括零样本、少样本提示、链式思维(CoT)等策略。

  • 外部知识检索

结合搜索引擎、数据库或知识图谱,从外部获取相关信息补充模型上下文。

是RAG(检索增强生成)系统的核心组成。

  • 动态上下文组装

根据任务需求动态选择、组合不同来源的信息。

包括基于任务的上下文选择、用户历史交互整合等。

2️⃣ 上下文处理(Context Processing) 处理已获取的上下文,使其更适合模型推理,包括以下方面:

  • 长上下文处理

针对模型输入长度限制,采用滑动窗口、分段摘要、稀疏注意力等技术。

目标是提升模型对长文档的理解能力。

  • 上下文自我优化与适应

模型通过自我反馈机制优化输入上下文。

包括自我修正、自我提问、自我总结等方法。

  • 多模态上下文整合

将图像、音频、视频等非文本信息与文本上下文融合。

支持跨模态推理与生成。

  • 结构化与关系型上下文建模

利用表格、图结构、树状结构等方式组织信息。

增强模型对复杂关系和层次的理解。

3️⃣ 上下文管理(Context Management) 关注上下文的存储、压缩与生命周期管理,确保系统高效运行:

  • 记忆层级与存储架构

构建短期记忆(如当前对话)与长期记忆(如用户画像)系统。

支持持久化交互与个性化响应。

  • 上下文压缩与优化

利用摘要、聚类、信息筛选等方式压缩冗余信息。

保留关键信息以节省计算资源。

  • 应用场景分析

针对不同任务(如问答、代码生成、推荐系统)设计专属上下文管理策略。

实现任务适配与性能提升。


这三大组件构成了上下文工程的技术基础,贯穿从信息获取到推理执行的全过程。它们不仅提升了模型的理解能力,也为构建更智能、更高效的AI系统奠定了基础。

上下文工程的系统实现

使用上下文工程的四大类系统。

1️⃣ 检索增强生成系统(Retrieval-Augmented Generation, RAG)

2️⃣ 记忆系统(Memory Systems)

3️⃣ 工具集成推理(Tool-Integrated Reasoning)

4️⃣ 多智能体系统(Multi-Agent Systems)

具体的细节这里不做展开了,可以直接去看论文。另外最后两章也不做具体介绍了,不是我们感兴趣的部分。

总结

我们只需要了解上下文工程这一基础概念即可。实际上,在上下文工程这一概念没出来之前就有了很多复杂的系统了,只不过现在都统一为说应用了上下文工程。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

为什么要学习大模型?

我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。

大模型入门到实战全套学习大礼包

1、大模型系统化学习路线

作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!


2、大模型学习书籍&文档

学习AI大模型离不开书籍文档,我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。

3、AI大模型最新行业报告

2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

4、大模型项目实战&配套源码

学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。

5、大模型大厂面试真题

面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余

适用人群

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/1205297.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

收藏!大厂集体加码AI赛道,零基础可入的大模型训练师,年薪最高36W+

据央广网12月17日报道,腾讯对大模型研发架构进行重大升级,新组建AI Infra部、AI Data部及数据计算平台部三大核心部门。这一动作信号明确,腾讯正全力押注AI赛道,通过架构优化夯实核心竞争力,抢占行业先机。 事实上&am…

7个高效AI论文生成软件,LaTeX模板自动处理排版细节

工具快速对比(7大AI论文工具TOP排名) 这7款工具覆盖论文写作全流程,各有亮点: Aibiye:智能成文与无限改稿,适合初稿优化(��)。 Aicheck:一键生…

7大AI辅助论文写作工具,配合LaTeX模板实现专业排版

工具快速对比(7大AI论文工具TOP排名) 这7款工具覆盖论文写作全流程,各有亮点: Aibiye:智能成文与无限改稿,适合初稿优化(��)。 Aicheck:一键生…

500与1000百联卡分别回收多少,揭秘当前百联卡回收价格表

闲置的百联卡如何变现?不同面值的回收价格是否有差异?这是很多持有百联卡的朋友都会遇到的问题。百联卡作为常用消费卡券,虽覆盖线下众多商户,但闲置后若不能及时处理,就会造成资源浪费。其中,500和1000面值的百…

丹东电气自动化哪家口碑好?2026精选厂家推荐,电气自动化/施耐德电气/工控产品/中低压电气,电气自动化厂商推荐

在工业制造与基础设施升级的浪潮中,电气自动化技术已成为保障设备稳定运行、提升生产效率的核心支撑。对于丹东及东北地区的企业而言,选择一家技术实力强、服务响应快、口碑可靠的电气自动化供应商,直接关系到项目落…

7个智能论文生成工具盘点,配合LaTeX模板实现精准排版

工具快速对比(7大AI论文工具TOP排名) 这7款工具覆盖论文写作全流程,各有亮点: Aibiye:智能成文与无限改稿,适合初稿优化(��)。 Aicheck:一键生…

Kafka高性能揭秘:零拷贝、顺序写与页缓存,千万级吞吐量的底层原理深度剖析

聊一个老生常谈,但 90% 的人只知其一不知其二的话题:Kafka 为什么这么快? 很多同学在面试时都能背出那几句八股文:“零拷贝、顺序写、页缓存”。但如果面试官追问一句:“你能在 Java 里写出零拷贝的代码吗&#xff1f…

大专java找工作好难,转行做什么?

这是小红书上一位上海的Java程序员失业想转行的分享贴。 Java开发的就业市场正在经历结构性调整,竞争日益激烈 传统纯业务开发岗位(如仅完成增删改查业务的后端工程师)的需求,特别是入门级岗位,正显著萎缩。随着企业…

7款AI驱动的论文写作助手,搭配LaTeX模板自动规范格式

工具快速对比(7大AI论文工具TOP排名) 这7款工具覆盖论文写作全流程,各有亮点: Aibiye:智能成文与无限改稿,适合初稿优化(��)。 Aicheck:一键生…

2026年真空螺旋干燥机评测:这家批发厂家脱颖而出,干燥设备/盘式干燥机/污泥干化,真空螺旋干燥机门店口碑排行

评测背景 随着全球工业领域对节能环保与生产效率要求的持续提升,真空螺旋干燥机作为化工、制药、食品等行业的核心设备,其技术迭代与市场格局正经历深刻变革。本评测基于第三方技术视角,选取国内主流真空螺旋干燥机…

7个最佳AI论文创作工具,LaTeX模板让格式调整更简单

工具快速对比(7大AI论文工具TOP排名) 这7款工具覆盖论文写作全流程,各有亮点: Aibiye:智能成文与无限改稿,适合初稿优化(��)。 Aicheck:一键生…

2025年市面上可靠的粒子计数器供应商联系电话,手持式尘埃粒子计数器/尘埃粒子测试仪/台式粒子计数器供应商哪家好

随着工业4.0与智能制造的深化推进,洁净环境监测需求持续攀升,粒子计数器作为空气洁净度检测的核心设备,其市场热度与竞争强度同步提升。据第三方机构统计,2024年中国粒子计数器市场规模突破25亿元,年复合增长率达…

解决 IntelliJ IDEA 中 Maven 管理界面不是层级结构的问题

解决 IntelliJ IDEA 中 Maven 管理界面不是层级结构的问题

2026 AI领域项目复现平台实力榜单:深度体验与专业评测

在人工智能技术狂飙突进的当下,项目复现已成为连接理论研究与产业落地的关键桥梁。从顶会论文的算法验证,到大模型微调的工程实践,复现工作的效率直接决定了技术迭代的速度。然而,环境配置繁琐、算力资源短缺、数据…

推荐7个高效AI论文生成器,LaTeX模板助你一键搞定格式

工具快速对比(7大AI论文工具TOP排名) 这7款工具覆盖论文写作全流程,各有亮点: Aibiye:智能成文与无限改稿,适合初稿优化(��)。 Aicheck:一键生…

hug_face#1 智能体推理|多模态|语音识别

with gemini🔍 大语言模型的智能体推理:从静态到动态的范式转变研究主题:《Agentic Reasoning for Large Language Models》核心突破:- 提出从静态LLM推理向智能体推理的范式转变,构建了包含基础层(单智能体…

2026岩棉净化板厂家实力榜:安全与性能的行业标杆

引言 岩棉净化板作为现代工业建筑和无尘车间的核心建材,随着电子制造、生物医药、食品加工等行业对洁净环境要求的不断提升,市场呈现爆发式增长。据行业数据显示,2023年我国净化板市场规模已突破300亿元,年均增长率…

导师推荐!8款AI论文网站测评:本科生毕业论文全攻略

导师推荐!8款AI论文网站测评:本科生毕业论文全攻略 为什么需要一份靠谱的AI论文工具榜单? 随着人工智能技术的快速发展,越来越多的本科生开始依赖AI写作工具来提升论文撰写效率。然而,面对市场上五花八门的平台&#x…

广州研究生留学机构top10,录取率高,助你顺利开启留学之旅

广州研究生留学机构top10,录取率高,助你顺利开启留学之旅作为从事12年华南地区留学申请规划的导师,我注意到许多广州高校学子在寻求研究生留学协助时,常面临几个核心困惑:如何在众多机构中筛选出靠谱选择?如何确…