github 地址:https://github.com/InternLM/tutorial
一、大模型简介

二、书生浦语 介绍
2.1 简介

 
 
2.2 模型到应用

 
 如上图所示,从模型到应用通过共需要经过以下4个步骤:
- 模型评测:选择适合自己需求的模型。
 不同的大模型,由于训练数据集和训练策略不同,导致大模型的能力也有不同程度的偏好。
- 模型微调:若是选择的大模型基本满足需求,但是又要符合自己的特定场景,在这种情况下,就需要对模型进行微调,活着使用RAG策略。
- 模型评测:经过微调训练的模型,在经过评测之后,判断是否满足自己的需求。
- 模型部署:为了降低模型推理过程的资源占用,降低成本,模型部署还是很有必要的。
2.3 书生浦语提供的功能

2.3.1 数据
数据共分为两部分:
- 书生·万卷 1.0 :大小约为2TB,官方经过筛选处理的数据。
- 开源数据集 openDataLab:大小约为80TB
  
  
2.3.2 预训练

2.3.3 微调 - XTuner


 
2.3.4 评测-openCompass

 
 
 
2.3.5 部署


 
