一、Peach-9B-8k-Roleplay简介

Peach-9B-8k-Roleplay 是一种聊天大型语言模型，它是通过我们的数据合成方法创建的超过 100K 的对话中微调 01-ai/Yi-1.5-9B 模型而获得的。

也许是 34B 以下参数最好的 LLM。

二、模型搭建流程

1. 创建容器镜像

• 进入算家云平台的“应用社区”，点击搜索或者找到"Peach-9B-8k-Roleplay"，进入详情页后点击“创建应用”

• 进入“租用实例”页面之后选择模型和 3060 卡，点击创建即可创建实例

2.启动项目

• 实例创建成功之后，点击“项目实例”再点击“webssh”开启终端（小黑屏）

• 进入终端后复制以下命令输入到终端即可开始运行：

激活虚拟环境

conda activate Peach-9B-8k-Roleplay

下载模型

注意：务必切换路径，把模型下载到数据盘

cd  /root/sj-tmp
git lfs install
git clone https://www.modelscope.cn/roleplay/Peach-9B-8k-Roleplay.git

切换路径

模型运行过程中还需要下载新的模型，切换到系统盘，分担数据盘的存储压力。

cd /

指定端口，运行模型

export GRADIO_SERVER_NAME=0.0.0.0
export GRADIO_SERVER_PORT=8080 
python  /root/sj-tmp/Peach-9B-8k-Roleplay/demo.py

3.开启外部访问

返回“项目实例”列表，选择并点击对应实例的“开放端口”按下图操作。

点击后访问的网址就已经复制到剪切板:

4.访问获取的地址,开始使用

• 将复制的访问网址复制到新网页即可开始 ui 界面的使用

输入问题，进行对话

或者根据自己需要修改参数以后，再进行对话。

自己设定提示符

以上就是在算家云搭建 Peach-9B-8k-Roleplay的流程。具体使用方式可进入算家云“应用社区”查看该模型的使用说明

点击算家云-应用社区，选择模型，一键开启 AI 之旅！