蚂蚁大模型面试真题全解析：从RAG到微调，助你轻松通关大模型技术面试

文章分享了蚂蚁集团大模型岗位的面试经验，包含一面和二面的技术问题。一面主要考察大模型基础知识（如Attention机制、Dense与MoE模型区别）和RAG项目经验；二面则深入探讨推理加速技术（如vLLM、PagedAttention）和微调进阶知识（如LoRA原理、SFT与RL应用场景）。面试官不仅关注技术概念，更重视技术选型背后的思考和问题解决能力，建议应聘者准备失败案例和优化思路。

蚂蚁大模型上岸，面试官特别关注技术选型背后的思考，别只背概念！RAG和微调项目一定要准备〃失败案例+优化思路〃

一面基础八股+ RAG深挖

1、八股：介绍几种Attention (MHA, MQA, GQA)的区别

2、八股：分别讲一下Dense模型和MoE模型以及二者的区别

3、八股：讲一下MoE的路由机制是如何做的？

4、项目：介绍RAG项目，讲一下RAG项目的亮点

5、项目：如果召回的答案不是想要的，该怎么处理？

6、项目：讲一下BM25算法原理

7、项目：是否做过意图识别？如果要做意图识别，可以怎么实现？

8、项目：微调项目是如何模型选型

9、项目：如何做微调的？直接用PEFT库，还是用LLama Factory做的？

10、项目：讲一下DPQPPQGRPO的原理和区别，写一下DPO loss函数

11、代码题：Ic15三数之和

二****面推理加速+ M微调进阶

1、八股：vLLM中使用的技术是否熟悉（如PagedAttention、KV Cache） ?

2、八股：了解加速推理框架DeepSpeed吗？

3、八股：MoE模型专家的负载不均衡问题如何解决？

4、八股：如何通过修改损失函数来解决负载均衡问题？

5、项目：SFT使用的数据集，使用了多少张卡？ SFT训练多久？

6、项目：SFT的数据集是越大越好吗？会存在scalinglaw 吗？

7、项目：SFT使用的数据可能和原始模型预训练时的数据分布有较大区别，怎么解决？

8、项目：讲一下LoRA微调的原理，A、B矩阵怎么初始化的，LoRA微调秩设置的是多少

9、项目：讲一下什么场景下用SFT,什么场景下用RL

10、项目：为什么使用强化学习会存在训练不稳定问题？为什么业界还在用？

11、代码题：Ic129求根节点到叶节点数字之和

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

第一阶段：从大模型系统设计入手，讲解大模型的主要方法；

第二阶段：在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段：大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段：大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段：大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段：以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段：以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。