本文分享作者从传统产品经理转型做大模型应用产品的经历，揭秘"大模型兜底侠"的真实工作状态：连接业务与技术评估可行性，为模型不确定性结果兜底，处理数据标注等脏活累活。大模型应用开发充满挑战，但产品经理的核心价值仍在于理解技术边界、连接业务诉求与能力现状，在不确定性中创造价值。随着基础模型进化，许多问题将自动解决，但当下从业者的数据清洗、标注等微小贡献仍是推动AI落地的关键力量。
图：在云层上飞行，遇见美丽晚霞
太久没动笔了，写一篇略微长点儿的吧！
翻了翻之前的文章，我发现之前陆续的一些职场记录离不开“拥抱变化”的主题。
所以根本不稀奇，2025年3月那篇文章之后，没有再更新。这半年多来，我开始做大模型应用产品了，算是一次被动的“登船”。在 onboarding 的这些日子里，是真的上强度了，过程中也有一些曲折迷茫。最近感觉顺了很多，有点心力想在这里说说话了。
看起来很时髦的大模型应用产品？这个岗位工作内容真的很厉害很前沿吗？
在一个规模很大的厂里，当业务上有使用大模型来解决问题的诉求，需要算法和工程研发团队配合做业务交付的时候，人们发现，这里依然需要一个产品经理的角色。
这个产品经理的定位，你可以叫它“策略产品经理”、“AI产品经理”、“大模型产品经理”这些看起来很时髦的名字。但真正深入到项目里做下来，我可以戏称这个职位为“需求解读员”、“大模型的兜底侠”、“数据清洗勤杂工”、“case 标注员”……
下面我就徐徐展开，把这段经历里有价值的部分略微呈现，和大模型的风格一样，想到哪说到哪。
去连接供需两方，做大模型的“销售”
“你们是不是写个 promote 就行？”
😧😧😧
我们常接到业务方这样的诉求。一句话让人回到“这个需求很简单，怎么实现我不管”的时代。而且我还不好意思和业务方指出：你 prompt 拼错了。
可以理解，作为非从业者，日常体验大模型的窗口往往就是通过媒体报道以及用一用对话式的大模型应用（GPT、Deepseek、豆包），因此业务方往往会把优化提示词（prompt）理解为大模型应用的全部工作。
但大模型是否可以解决某些业务问题，往往需要拿一些业务数据来做当前模型能力的评估测试，优化手段也绝对不止“prompt”。
产品经理在这个需求对接的初始阶段，要做好供需两端的连接，和算法同学一起评估“可为与不可为”，以及投入产出比“ROI”，且以“说人话”的方式和业务方解释清楚，为什么？
比如某个项目上需要投入多少成本来实现，可能会遇到若干情况：
直接用某个市面上的大模型来识别就行，把prompt 优化的好一点
需要用开源大模型叠加一些训练数据来提升能力
当前的大模型基础能力离满足业务预期还有一定距离，短期内做一些尝试提升有限，无法达到业务可用状态（e.g.准确率不行）
虽然某些大模型能力可以达到要求，但是成本太高了，根本用不起，请业务方认领成本或默默退散
关于成本问题，其实蛮值得单独一说：
它生动地解释了什么情况下用 AI agent 不靠谱。有时候找其他路径解决问题更经济有效。某些看似有价值的需求叠加使用成本就变成了伪需求……
我曾经用 minimax（海螺的AI agent）跑了一些我们业务上的复杂疑难 case。结论就是：真的好，但是真的用不起，不是赚大钱的业务别用……还不如直接上人工吧！😅
与不确定性共舞，随时准备好给大模型兜底
大语言模型生成文本的原理使得它产生的结果有不确定性（同样的 prompt，每次请求结果会不完全一样），以及模型输出结果本身会有常识类错误的情况（幻觉之类）。
产品经理需要做好评估：
- 确定性不足，在什么场景下可接受，什么场景下不可接受？量化的标准是什么？
目前遇到各种应用场景（纯内部产研应用、对销售运营等一线角色应用、对客户可见……）对于容错性是层层递减的，越面向客户终端，越需要更高的确定性和准确率，所以，也会在不同应用场景制定不同的标准。
我们在某些场景下，也会默认做一层缓存，多次请求在一段时间内结果一定是一样的、稳定的。尤其是把大模型的某些生产结果作为其他模型特征的时候，它得是一段时间内保持稳定的…
- 定义好“完全不可接受”的极端use case，思考怎么给模型结果兜底
我们会人工总结模型容易错的规律，在模型外面套一层规则，把集中性的不靠谱的结果删除或者修正掉。比如我们为一些服务类业务生成服务价格和促销卖点，遇到金融借贷类服务一定不能出现把贷款金额数字错误理解成 price 的情况……
这也是为什么我把自己称为“兜底侠”，因为要兜底的情况很多且动态变化：
基于不同业务场景、行业、面向客户类型而异
随着时间的推移，use case 也会千变万化，要随时做好线上监控和日常分析，找到新的兜底需求
“光鲜”背后的脏活真多，时常迷茫“Sam奥特曼也要看这么多 case 吗？”
上面提到的问题不是通过数据分析发现的，而是通过日常一个个看具体的模型输出 case 发现的…
这就引出了一连串脏活累活。
干了这么久，得到的一个真理：大模型的背后少不了“人工”的智能支持。“人工智能”依靠“人工”智能。
举个例子：为了让模型学习到某个领域更专业的知识，必须提供人工标注的数据，至少在某些领域靠蒸馏其他大模型的结果来提升是不够的…这就涉及到大量人工标注数据的工作（高大上的称为“专家知识”）。
标注数据基于业务开展的不同国家，需要国内国外不同的标注团队参与。标注团队的日常对接，包括沟通培训、反复对齐执行细节、结果验收等，是一个专门的运营岗所要承担的工作内容。
但每个项目前期，产品经理的深度介入是避免不了的**：**不仅自己要上手标注，还要检查标注员的常见质量问题，每天和海外标注员管理团队开例会……当然，看到我们算法同学日常也需要干这些工作，我顿时心里平衡了很多。（那么贵的人来了日常也要干这个，我这点痛苦算什么？）
因为这些工作密集发生，我还在 Google 上搜索：海外大模型应用公司也需要牛马做这些工作吗？暂无明确答案。欢迎海内外从业者交流解惑！
“脏活累活”还不止这些。
为了提升模型的应用效果，除了用固定测试集做自动化评测效果，日常还要在线上做数据抽检和问题分析，定位到新问题，并想出很多方法提升模型的表现。每一个 use case 的成功都饱含热泪。
但我们也发现，随着时间的推移，更强大的基础模型出来之后，很多问题就自动解决了。之前我们苦哈哈做的很多工作，就和“打水漂”一样了。
再次感叹：很多事情不是做不了，而是没到技术拐点。遇到某些解决不了的问题，只能怪“大模型基础能力还没 level up”。我们的应用场景想的太早，切入时机不对。
虽然嘴上这么说，我心里还是为“短期提升模型表现”贡献一份力感到自豪的😌毕竟在 AI 应用里真正成了底层从业者（牛马），看到我们的用户能体验到我们交付的产品和模型能力，我还是有点小激动的，不亚于当年刚开始做产品经理时，拿到用户反馈的那种悸动心情_
先碎碎念总结到这里。
这半年的“登船”之旅，让我再一次“从头学起”。抛开工作十几年、抛开“高级产品经理”等 title，重新开始做新手“ AI 产品经理” aka “大模型兜底侠”。但我发现，产品经理工作的内核依然是**理解、连接与创造：**理解技术能力边界，连接业务诉求与技术能力现状，在充满不确定性的大模型土壤里，创造一点点有价值的体验。
不要忘记歌颂一下我们一线从业者的“微小贡献”：在技术浪潮的喧嚣之下，真正推动事物前进的，往往不是宏大的叙事，而是这些：反复清洗数据的耐心、逐个标注 case 的细致、为一个疑难 user case 找到提升方案时的如释重负。
我们都是伟大的赛博劳动人民。
大模型还会继续进化，而我，也还在路上。
如何系统的学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
一直在更新，更多的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
01.大模型风口已至：月薪30K+的AI岗正在批量诞生
2025年大模型应用呈现爆发式增长，根据工信部最新数据：
国内大模型相关岗位缺口达47万
初级工程师平均薪资28K（数据来源：BOSS直聘报告）
70%企业存在"能用模型不会调优"的痛点
真实案例：某二本机械专业学员，通过4个月系统学习，成功拿到某AI医疗公司大模型优化岗offer，薪资直接翻3倍！
02.大模型 AI 学习和面试资料
1️⃣ 提示词工程：把ChatGPT从玩具变成生产工具
2️⃣ RAG系统：让大模型精准输出行业知识
3️⃣ 智能体开发：用AutoGPT打造24小时数字员工
📦熬了三个大夜整理的《AI进化工具包》送你：
✔️ 大厂内部LLM落地手册（含58个真实案例）
✔️ 提示词设计模板库（覆盖12大应用场景）
✔️ 私藏学习路径图（0基础到项目实战仅需90天）
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
)
