DeepSeek-OCR本地部署教程：DeepSeek突破性开创上下文光学压缩，10倍效率重构文本处理范式 - 教程

一、模型介绍

DeepSeek-OCR 是深度求索（DeepSeek）于 2025 年 10 月 20 日开源的一款革命性 OCR 模型，其核心创新在于提出 上下文光学压缩 （Contexts Optical Compression）技术，通过视觉模态实现文本信息的高效压缩与解压。该模型以 3B 参数量实现了 SOTA 级性能，按照官方的说法，单张 A100-40G 显卡日处理能力超 20 万页数据，这为长文本处理和大模型优化提供了全新范式。

DeepSeek-OCR 采用 端到端视觉语言模型（VLM）架构 ，由两大核心组件构成：

1.DeepEncoder（视觉编码器）

专为高分辨率输入设计，通过 “局部感知 + 全局语义” 的双塔结构实现高效压缩：

SAM-base（80M 参数） ：采用窗口注意力机制，提取图像局部细节（如文本位置、字体），避免全局注意力的高内存消耗。输入 1024×1024 图像时，生成 4096 个 16×16 的 Patch Token。
CLIP-large（300M 参数） ：移除首个 Patch 嵌入层，接收前序输出 Token，通过密集全局注意力整合压缩后的视觉信息，提炼文档布局、文本逻辑等全局语义。
16 倍卷积压缩器 ：在 SAM 与 CLIP 之间，通过两层 3×3 卷积（步长 2）将 4096 个 Token 压缩至 256 个，大幅减少后续计算量。此设计使模型在 1024×1024 分辨率下激活内存可控。

2.DeepSeek3B-MoE 解码器

基于混合专家架构（MoE），推理时仅激活 64 个路由专家中的 6 个及 2 个共享专家，实际激活参数约 5.7 亿。该设计在保持 3B 模型表达能力的同时，实现了 500M 小模型的推理效率（8.2 页 / 秒，A100 显卡），支持从压缩后的视觉 Token 中重建原始文本。

DeepSeek-OCR 支持灵活的分辨率模式，适应不同硬件和场景需求：

原生分辨率模式 ：
Tiny（512×512，64 Token）：适合移动端。
Small（640×640，100 Token）：平衡性能与效率。
Base（1024×1024，256 Token）：通用场景首选。
Large（1280×1280，400 Token）：高性能服务器。

动态分辨率模式（Gundam） ：
针对超大文档（如报纸），将图像分块为 n×640×640 局部视图（100 Token / 块）和 1024×1024 全局视图（256 Token），总 Token 数为 n×100+256（n≤9）。Gundam-Master 模式（1024×1024 局部 + 1280×1280 全局）通过增量训练实现，支持多栏排版、图文混杂的复杂文档。

更多详情请见：DeepSeek-OCR-镜像社区 算家云

二、部署流程

基础环境推荐：

环境名称	版本信息
Ubuntu	22.04.4 LTS
Cuda	V12.1
Python	3.12
NVIDIA Corporation	RTX 4090

注：该模型对于显存占用要求较低，16G显存也可部署，不过在识别pdf的较大文件占用显存较高。

1.更新基础软件包

查看系统版本信息

#查看系统的版本信息，包括 ID（如 ubuntu、centos 等）、版本号、名称、版本号 ID 等
cat /etc/os-release

更新软件包列表

#更新软件列表
apt-get update

2.创建虚拟环境

创建虚拟环境

#创建名为DeepSeek-OCR的虚拟环境，python版本：3.12
conda create -n DeepSeek-OCR python=3.12

激活虚拟环境

conda activate DeepSeek-OCR

3.克隆仓库、安装依赖

在github中将DeepSeek-OCR有关的官方存储库克隆下来，可见：deepseek-ai/DeepSeek-OCR：上下文光学压缩

git clone https://github.com/deepseek-ai/DeepSeek-OCR.git

进行DeepSeek-OCR目录下，执行命令 pip install -r requirements.txt 将仓库所需的各版本号依赖项进行下载

特别的，如需要该模型可视化访问页面，这里推荐huggingface上官方给出的gradio页面模板

git clone https://huggingface.co/spaces/merterbak/DeepSeek-OCR-Demo

同样的，使用该模板，也需要进入DeepSeek-OCR-Demo目录下，安装所需依赖项

4.模型下载

这里推荐转到魔塔社区官网下载模型文件：DeepSeek-OCR · 模型库

使用命令行下载完整模型库

#在下载前，请先通过如下命令安装
pip install modelscope

转到根目录下，创建 model目录用于存放模型权重文件，在使用命令行下载 modelscope download --model 'deepseek-ai/DeepSeek-OCR' --local_dir './'

cd /
mkdir model
cd model
modelscope download --model 'deepseek-ai/DeepSeek-OCR' --local_dir './'

5.修改 web 页面启动脚本

进入 /DeepSeek-OCR/DeepSeek-OCR-Demo 目录，修改其中的web启动代码app.py：

vim /DeepSeek-OCR/DeepSeek-OCR-Demo/app.py

将模型的加载路径改为本地路径 /model/ ,以及lunch加载函数中设置 share=True,server_name='0.0.0.0',server_port=8080

6.运行脚本

#执行修改好的 app.py 文件
python app.py

7.web 页面展示

将网址：http://localhost:8080/粘贴到浏览器中，便可与模型进行对话