**环境说明：**从系统镜像开始打造python大模型镜像，之前是人工手动装的方式，并且模型和依赖在公网中，对于离线交付环境不太友好，所以打造的离线化交付版本

Dockerfile:

FROM centos:7.9
ENV PYTHONIOENCODING=utf-8
ENV NCCL_DEBUG=INFO
##下载阿里的镜像源，装一些基础命令依赖等
RUN curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo && yum -y install python3  python  wget bind
## 项目启动的一些路径需要创建
RUN mkdir -p /export  &&  chmod -R 777  /export && mkdir -p /root/logs &&  mkdir -p /deploy/app
## 装miniconda的脚本
COPY deploy-miniconda.sh /deploy
## 项目代码cp
COPY app  /deploy/app
## 工作目录
WORKDIR /deploy/app
## python项目的依赖文件写在里面，供pip install 用
ADD requirements.txt /tmp/requirements.txt
## 大模型知识库的文件，ADD和COPY指令需要追加目录根，不然会将文件的内容拷进去，用下面目录到目录的方式也行
COPY XXX /deploy/XXX## 安装miniconda
RUN sh /deploy/deploy-miniconda.sh
##下面是手动装遇到需要手动输入的解决方式，现在用脚本解决了，不然安装miniconda需要按回车N次 
#RUN  cd /deploy &&  sh -c '/bin/echo -e "\nyes\nyes" |  /bin/bash ./miniconda.sh'
## 安装好miniconda设置环境变量
ENV  PATH="/root/miniconda3/bin:${PATH}"
ENV  ANACONDA_HOME=/root/miniconda3/
## source进入python开发环境
RUN export PATH="/root/miniconda3/bin:${PATH}" && export ANACONDA_HOME=/root/miniconda3/ &&  source activate
##安装项目依赖
RUN export LANG=zh_CN.UTF-8  && pip install --default-timeout=1000 -r /tmp/requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
## 启动脚本
RUN chmod 777 /deploy/app/start.sh
## 启动服务
CMD ["python", "-u", "server.py"]
## 原本用下面的方式，因为source过，容器内部环境有变，会提示找不到路径
#CMD sh /deploy/app/start.sh
#ENTRYPOINT /deploy/app/start.sh

大模型，想想还是打个码吧，虽然是开源的

安装miniconda的脚本

#!/usr/bin/bash
set -e
wget "https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/Miniconda3-py311_24.1.2-0-Linux-x86_64.sh" -O ~/miniconda.sh
bash ~/miniconda.sh -b -p $HOME/miniconda3
~/miniconda3/bin/conda init $(echo $SHELL | awk -F '/' '{print $NF}')
echo 'Successfully installed miniconda...'
echo -n 'Conda version: '
~/miniconda3/bin/conda --version
echo -e '\n'
exec bash

清华源地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/

### 制作镜像
docker build -f Dockerfile -t model:v1 .
### 测试
docker run -it -d --name py-model model:v1 -p xxx:xxx

python报错

huggingface_hub.errors.HFValidationError: Repo id must be in the form ‘repo_name‘ or ‘namespace/repo

这个就是大模型数据路径指的不对，修改成正确的即可