DeepSeek-OCR 官方项目 README:https://github.com/deepseek-ai/DeepSeek-OCR中有关于 vllm 0.8.5+cu118+transformers>=4.51.1 下进行离线推理的详细步骤，但是教程中在线推理部分 vLLM 还是 nightly 版本。我看网上大家根据官方文档进行部署，问题多多。正好，[vLLM 最新版来了，V0.11.2 稳定版原生支持 DeepSeek-OCR，使用 OpenAI API 兼容格式的在线推理，方便多了]。
但是，vLLM 自 0.11.1 之后默认 CUDA 更新到了 12.9，我的 Linux 算力测试机还是 12.4，本文就介绍一下不重启情况下，如何升级 CUDA 和 vLLM@0.11.2，后面一篇文章再详细介绍 DeepSeek-OCR 的部署和 API 使用。
CUDA 升级
第一步：下载 CUDA Toolkit runfile
目前 CUDA Toolkit 的最新版是 13.0，作为等等派，我还是先装 12.9.1 吧
下载地址：https://developer.nvidia.com/cuda-12-9-1-download-archive?target_os=Linux&target_arch=x86_64&Distribution=RHEL&target_version=8&target_type=runfile_local
注意选择符合自己操作系统、架构、版本的安装包，最后一项建议选 runfile（local）
CUDA Toolkit 的历史版本，可以在这里找到：https://developer.nvidia.com/cuda-toolkit-archive
如果你的服务器是离线的，把下载好的 runfile 传进去即可
第二步：卸载旧版 CUDA
可以通过whereis nvcc查看自己 CUDA 的安装位置，一般都是在/usr/local/目录下
然后进入到/usr/local/cuda-12.4/bin下，找到 cuda-uninstaller
直接运行cuda-uninstaller，把下面三项选中后，光标移至 Done 后按 Enter 进行卸载
一般很快就 OK 了
第三步：安装 CUDA Toolkit 12.9
进入到第一步下载好的 runfile 目录下
运行sudo sh cuda_12.9.1_575.57.08_linux.run
然后选中以下几项，选中 Install 后 Enter
然后输入 accept 后 Enter
无比顺利情况下你会看到这个界面，这就约等于大功告成了
但是！不出意外的话，肯定会出意外了
问题 1:nvidia-uvm
你的服务器如果还有大模型在跑或别的任何服务在使用算力，极有可能会收到安装失败的 erro
查看日志发现有一个叫 nvidia-uvm 的内核正在使用
运行fuser -v /dev/nvidia-uvm确实是我之前 Docker 启动的 xinfer、vllm 等在运行模型
这里情况也能不一样，就我这个，测试发现要完全停掉 docker 仅此命令还不够sudo systemctl stop docker
要彻底停止 Docker，需要同时停止服务和套接字
sudo systemctl stop docker.service docker.socket
然后停掉自启
sudo systemctl disable docker.service docker.socket
完成升级后记得要 enable 一下
sudo systemctl enable docker.service docker.socket
问题 2:nvidia-drm
再次升级 CUDA，又失败了，日志提示nvidia-drm already loaded
这里需要切换到纯文本模式（关闭图形界面）
执行：sudo systemctl isolate multi-user.target
执行后，等待几秒钟，让图形服务完全关闭。
然后再再次升级 CUDA，就 OK 了
执行nvidia-smi发现 Driver 和 CUDA Version 都是新的了
执行 nvcc -V 发现报错，这是因为环境变量还没修改
执行vi ~/.bashrc把之前的 12.4 全部修改为 12.9
然后source ~/.bashrc使其生效
再次执行nvcc -V发现已经 OK
vLLM 升级
有网环境可以 pip upgrade，不过我这是内网服务器
所以用了 vLLM 的官方 Docker 镜像
https://hub.docker.com/r/vllm/vllm-openai/tags
很简单，直接docker pull vllm/vllm-openai:v0.11.2拉取镜像
然后docker save -o vllm012.tar vllm/vllm-openai:v0.11.2
把镜像保存到本地后传入内网服务器即可
至此 vLLM 升级完成
部署 DeepSeek-OCR
后面就是用 VLLM 的 Docker 拉起 DeepSeek-OCR 了
测试很 OK，单卡 4090 很顺畅，具体步骤就要下文了
如何学习AI大模型？
如果你对AI大模型入门感兴趣，那么你需要的话可以点击这里大模型重磅福利：入门进阶全套104G学习资源包免费分享！
这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
这是一份大模型从零基础到进阶的学习路线大纲全览，小伙伴们记得点个收藏！
第一阶段：从大模型系统设计入手，讲解大模型的主要方法；
第二阶段：在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；
第三阶段：大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；
第四阶段：大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；
第五阶段：大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
第六阶段：以SD多模态大模型为主，搭建了文生图小程序案例；
第七阶段：以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
100套AI大模型商业化落地方案
大模型全套视频教程
200本大模型PDF书籍
👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；
• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；
• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。
LLM面试题合集
大模型产品经理资源合集
大模型项目实战合集
👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
)
