前言很多想入行 AI 工程的同学都会遇到同一个困境看了很多零散教程、跑了不少 Demo但始终不知道「怎么才算能上岗」不知道从入门到生产落地要系统掌握哪些能力踩了无数重复的坑成长效率极低。过去 90 天的专栏内容沿着「基础认知→核心技术→工程落地」的完整路径覆盖了大模型落地最核心的四大技术方向轻量化微调、RAG 检索增强、智能 Agent、服务化部署。从最基础的概念原理到可直接用于生产的完整代码再到企业级架构设计形成了一套从入门到落地的闭环体系。这篇文章做一次完整的体系化总结把 90 天的知识梳理成清晰的成长路线图。不管你是刚入门的新人还是想体系化补全能力的从业者都能对照着找到自己的位置和进阶方向。一、三个阶段90 天从入门到生产落地AI 工程师的成长不是零散知识点的堆砌而是遵循「基础筑基→核心深化→工程落地」的客观规律。三个阶段各有明确的目标和产出稳步推进就能完成从「会跑 Demo」到「能做生产落地」的跨越。阶段一基础筑基期第 1-30 天—— 搞懂底层逻辑跑通核心流程核心目标建立大模型完整认知掌握通用工具链能独立跑通推理与简单微调摆脱「只会复制粘贴代码」的入门状态。核心学习内容大模型基础认知大模型完整技术链路预训练→监督微调→对齐训练的作用与边界常见模型架构与选型Decoder-only、Encoder-Decoder 的区别主流开源模型对比核心概念扫盲参数量、上下文窗口、温度系数、Top-P、Token 等基础术语能力边界认知大模型擅长什么、不擅长什么什么场景该用大模型什么场景不该用HuggingFace 核心工具链Transformers模型加载、推理、Pipeline 的标准用法Datasets数据集加载、清洗、预处理的常用操作Tokenizer分词原理、编码解码、特殊 Token 处理基础训练原生 Trainer 的使用跑通最简单的微调流程核心技术入门认知微调入门全参微调 vs 轻量化微调的本质区别LoRA 核心原理微调的适用场景RAG 入门向量检索的基本原理嵌入模型的作用RAG 解决什么问题Agent 入门工具调用的基本逻辑Agent 和普通对话的区别推理基础fp32/fp16/bf16/int8/int4 的精度区别显存与速度的权衡阶段产出独立完成本地环境搭建跑通主流开源模型的推理用自定义数据集跑通一次 LoRA 微调对比微调前后的效果差异实现最简单的 RAG 问答基于本地文档回答问题理解三大技术的适用边界能针对简单业务场景做技术选型阶段二核心技术深化期第 31-60 天—— 吃透三大核心技术独立完成单场景落地核心目标掌握「微调、RAG、Agent」三大落地技术的完整流程能独立完成单个业务场景的方案设计、代码实现与效果调优。这一阶段是 AI 工程师的核心能力区也是区分「只会调用 API」和「能解决业务问题」的关键。模块 1轻量化微调全体系从数据构造到训练调优再到导出部署形成完整闭环。选型判断明确「什么时候用微调、什么时候用 RAG、什么时候纯 Prompt 工程就够」避免技术滥用完整实战Transformers PEFT SFTTrainer 标准微调流程数据清洗与格式化过拟合识别与避免参数调优r 值、alpha、target_modules、学习率、训练轮次的调优方法论后处理全流程权重合并、全精度导出、多格式量化转换AWQ/GPTQ/GGUF、效果校验深度对比原生 Transformers vs PEFT 的用法差异不同量化格式的选型与适用场景模块 2RAG 检索增强全体系从单文档 Demo 到生产级知识库掌握全链路优化方法。基础链路文档解析→文本切片→向量嵌入→检索召回→重排序→生成回答优化方法论切片策略优化、召回率提升、生成幻觉抑制、多轮对话 RAG工程升级多格式文档支持、权限管控、增量更新、知识库运营进阶方向混合检索、父文档召回、知识图谱增强 RAG模块 3智能 Agent 全体系从单工具调用到多工具协同从 Demo 到生产级稳定运行。基础能力Function Calling 标准实现工具定义最佳实践高准确率调用的编写技巧自主决策ReAct 模式核心逻辑思考 - 行动 - 观察循环的完整实现多工具协同多工具注册、动态选择、异常重试、自动纠错生产升级生产级 Agent 架构设计权限分级与安全管控写操作人工确认全链路可观测阶段产出完成一套领域微调全流程数据构造→训练调优→权重合并→多格式量化→部署验证搭建一套可用的企业知识库问答系统支持多格式文档、多轮对话、效果可优化实现一个多工具协同的业务 Agent支持查询、计算、业务系统调用具备基础异常兜底能力阶段三工程化落地期第 61-90 天—— 从 Demo 到生产掌握企业级部署与运维能力核心目标能把单机 Demo 变成可对外服务的生产系统掌握高可用、高性能、可观测的企业级部署能力这是从「做实验」到「做产品」的核心跨越。很多人技术能力不差但始终做不出稳定可用的服务核心就是缺工程化能力。核心学习内容高性能推理引擎vLLM/TGI 等专业推理引擎的原理与部署连续批处理如何提升吞吐推理性能调优批处理大小、显存占用、吞吐与延迟的权衡多模型管理、模型热加载、资源调度策略企业级服务封装FastAPI 接口设计RESTful 规范、参数校验、统一响应、全局异常处理安全体系API Key 鉴权、用户级限流、输入输出合规校验、敏感数据脱敏接口规范版本管理、错误码体系、文档自动生成高可用集群架构分层解耦设计接入层、业务层、推理层分离独立扩缩容负载均衡Nginx 流量分发、被动健康检查、故障自动摘除容灾降级多实例部署、故障自动转移、服务降级策略、熔断机制幂等性设计重试场景下的结果一致性避免重复计费、重复执行可观测与运维全链路追踪TraceID 透传串联接入层→业务层→推理层结构化日志日志规范、字段设计、集中采集与检索监控告警核心业务指标、资源指标、可用性指标告警阈值与规则问题排查常见故障定位思路性能瓶颈分析方法阶段产出搭建一套企业级大模型服务Nginx 负载均衡 多业务实例 高性能推理集群完整的监控告警体系核心服务指标可观测、异常可告警具备容灾降级能力单实例故障服务不中断用户无感知有完整的发布、回滚、扩容流程可支撑线上业务运行二、AI 工程师核心能力全景图很多人对 AI 工程师的认知停留在「调大模型」实际上它是「AI 能力 工程能力」的复合岗位核心能力可以分为四大层级表格能力层级具体内容核心要求基础通用能力Python 编程、Linux/Shell、网络基础、数据库基础、Git 版本管理代码规范、问题排查、工程素养大模型基础能力模型推理、数据处理、Prompt 工程、基础效果评估能用大模型解决简单问题核心技术能力轻量化微调全流程、RAG 检索增强全链路、智能 Agent 开发、高性能推理能独立完成单一场景的技术落地工程落地能力服务化封装、高可用架构、安全合规、可观测运维、性能调优能把 Demo 变成稳定可用的生产服务 关键认知AI 工程师首先是工程师其次才懂大模型。通用工程能力决定了你的上限大模型知识只是你的专项技能。不要只学大模型忽略代码、架构、运维这些通用能力。三、新手最容易踩的 10 个坑 避坑建议1. 沉迷算法细节忽略工程落地刚入门就死抠公式推导、模型架构细节迟迟跑不通一个完整流程。先跑通全链路再按需深入算法大部分业务场景不需要你发明新算法能把现有技术用好就足够。2. 只会调框架 API不懂底层逻辑只会用 LangChain、PEFT 的封装接口出了问题不知道怎么排查。框架是提效工具不是黑盒。理解底层原理才能在出问题时快速定位、灵活定制。3. 盲目追求全参微调忽视性价比总觉得「全参比 LoRA 高级」上来就硬上全参微调。90% 的业务场景LoRA 的效果已经接近全参成本只有几十分之一。优先用最轻量的方案解决问题不要为了技术炫技增加成本。4. Demo 思维没有生产意识写代码只追求「能跑通」不考虑异常、安全、性能、边界情况。生产环境和 Demo 的区别就在于Demo 只需要处理正常情况生产要处理所有异常情况。5. 堆砌技术不考虑业务价值为了用 Agent 而用 Agent为了用 RAG 而用 RAG。技术永远是服务业务的能简单方案解决的就不要上复杂方案。方案的优劣取决于解决问题的性价比不是技术有多酷。6. 不做版本管理实验不可复现每次训练、每次部署没有记录参数、数据、版本全靠记忆。出了问题不知道哪里改了好的效果复现不出来。所有实验留痕所有版本可追溯是工程化的基本素养。7. 忽视数据质量迷信模型能力总觉得效果不好是模型不行实际上数据决定了效果的上限模型只是逼近这个上限。脏数据、标注差的数据集再强的模型也训不出好效果。8. 跳过校验直接上线微调合并完直接用、RAG 搭完直接上线、Agent 写完直接开放。没有效果校验、没有边界测试上线出问题的代价远高于测试成本。任何变更先验证再上线是不可突破的底线。9. 单点部署没有容灾意识单机跑通就以为完事了生产环境单点故障就是线上事故。只要是对外服务至少要有双实例备份、故障自动转移的能力。10. 只学大模型忽略通用工程能力天天看大模型新论文、新框架Python 代码写得一团糟Linux 基本命令都不会。AI 工程师的核心竞争力往往在大模型之外。代码能力、架构能力、排查问题的能力才是拉开差距的关键。四、进阶成长建议1. 项目驱动不要零散学习不要东看一篇教程、西学一个知识点。围绕一个完整的项目学习比如「做一个个人专属知识库助手」把 RAG、微调、Agent、部署全串起来。做完一个完整项目比学十个零散知识点成长快得多。2. 建立知识框架体系化补全建立自己的知识地图知道整个领域有哪些模块每个模块掌握到什么程度。遇到问题知道属于哪个模块、该去哪里找答案而不是每次都从零开始搜。3. 重视踩坑经验多复盘总结调参失败、部署故障、效果不达预期这些踩过的坑是最宝贵的经验。每次踩坑都记录下来问题是什么、原因是什么、怎么解决的、以后怎么避免。复盘越多成长越快。4. 关注行业动态但不要焦虑新技术、新框架层出不穷永远学不完。不用追每一个热点先把核心体系打牢。底层逻辑是不变的新东西只是在基础上的延伸体系扎实了学新技术只会越来越快。5. 从解决小问题开始逐步深入不要一上来就想做「通用人工智能」先从解决一个具体的小业务问题开始。比如用 RAG 优化内部文档查询、用 Agent 简化重复工作。落地的小项目做多了自然就能驾驭更大的系统。五、写在最后AI 工程师的核心价值从来不是会调多少个模型、知道多少个新算法而是能把大模型技术落地到真实业务中解决实际问题创造业务价值。90 天的体系化学习不是终点而是入行的起点。从跑通第一个推理 Demo到搭建一套完整的生产级服务每一步都有明确的成长路径。沿着这个路线走下去从「会用大模型」到「能落地大模型」你就能建立起自己的核心竞争力。大模型的技术还在快速演进但工程化的底层逻辑是稳定的。把基础打牢把体系建全不管技术怎么迭代你都能站在浪潮之上。