windows本地化部署Dify+Deepseek

Windows本地化部署Dify+Deepseek

一、下载Docker

前往 Docker 官网 下载 Docker Desktop,按序安装。

1.1启用WSL

打开本机的控制面板=>程序=>启用或关闭 Windows 功能,勾选:

  • Linux 的 Windows 子系统
  • 虚拟机平台(若无该选择则勾选 Hyper-V )
  • 远程差分压缩 API 支持。
    windows功能
    点击确定后进行重启。

1.2 迁移Docker位置

Docker的安装位置与下载位置都默认在C盘中,因此要手动进行迁移,防止C盘爆满;

  • 导出docker-desktop
wsl --export docker-desktop E:\[你的路径]\docker-desktop.tar
  • 注销docker-desktop
wsl --unregister docker-desktop
  • 新路径中重新导入docker-desktop
wsl --import docker-desktop E:\[你的路径]\docker-desktop E:\docker_data\docker-desktop.tar
  • docker-desktop中修改镜像存储路径
    变更镜像路径

二、Dify的下载与环境配置

2.1 Dify项目下载

使用git拉取Dify项目或下载项目压缩包

git clone https://github.com/langgenius/dify.git

2.2 Dify项目环境配置

1.在2.1 中下载的项目文件中,找到docker文件夹,双击进入后找到.env.example文件,将其重命名为.env
2.在docker文件夹中打开cmd终端,运行docker环境;

docker compose up -d

在这里插入图片描述

在此过程中可能会出现请求超时docker:Error reponse from deamon:Get "registry-1.docker.io/v2...":net/http:request canceled while waiting for connection...的报错,可能是镜像请求失败的问题,此时需要替换docker的相关镜像地址。

进入docker桌面端后点击右上角设置,进入Docker Engine进行配置修改。配置如下:

{"builder": {"gc": {"defaultKeepStorage": "20GB","enabled": true}},"experimental": false,"registry-mirrors": ["https://docker.m.daocloud.io","https://docker.imgdb.de","https://docker-0.unsee.tech","https://docker.hlmirror.com","https://docker.1ms.run","https://func.ink","https://lispy.org","https://docker.xiaogenban1993.com"]
}

在这里插入图片描述此时点击Apply & restart,等待重启后重新运行docker环境即可正常拉取。
拉取完毕后,在docker桌面端中可以看到相关环境已启动,如下:
在这里插入图片描述

2.3 Dify安装

在浏览器中访问地址http://[本机IP]:[端口号]/install即可。

此处的本机IP,即局域网可访问本机的地址。端口号则可以在2.2Dify项目环境配置中,打开.env文件对NGINX_PORTEXPOSE_NGINX_PORT进行修改,例如改为8081,则可以访问Dify的地址为:http://192.168.0.1:8081/install。

此时进入Dify应用后,需要先设置一个管理账户。
在这里插入图片描述
设置完毕后登录即可进入Dify。

三、Dify关联本机运行的deepseek

3.1 配置Ollama服务开放局域网访问

Ollama是一个本地 AI 服务工具,默认情况下它只能在本地访问。如果想要在局域网中共享 Ollama 服务,需要配置防火墙以开放对应的端口。

3.1.1 配置 Ollama 服务的监听地址

Ollama 服务使用环境变量 OLLAMA_HOST 来指定监听的地址,默认情况下,它只监听localhost,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST设为 0.0.0.0

在 Windows 中环境变量中新建变量名OLLAMA_HOST,变量值0.0.0.0

3.1.2 开放防火墙端口

使用管理员身份运行命令提示符,按以下命令依次执行。

  1. 为 Ollama 服务开放 11434 端口(TCP 协议):
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434
  1. 如果 Ollama 使用的是 UDP 协议,可以将命令中的 TCP 改为 UDP:
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434
  1. 通过以下命令确认规则是否正确添加:
netsh advfirewall firewall show rule name="Allow Port 11434"

完成上述操作后,在本机或同局域网中的设备对地址:http://[本机地址IIP]:11434进行范围,若访问后页面显示Ollama API相关的信息,则端口已开放成功。

3.2 修改Dify运行配置文件

2.2Dify项目环境配置中,打开.env文件,末尾新增配置如下:

# 启用自定义模型
CUSTOM_MODEL_ENABLED=true
# 指定 Ollama 的 API 地址(根据部署环境调整 IP)
OLLAMA_API_BASE_URL=http://[本机IP]:11434

其中的OLLAMA_API_BASE_URL配置的地址即开放后的Ollama服务地址。

3.3 配置Dify大模型

  1. 点击Dify中右上角的头像后点击设置;
    在这里插入图片描述
  2. 点击模型供应商在右侧选项卡中找到Ollama,鼠标悬停后点击添加模型,填写模型名称与基础URL点击保存即可。
    在这里插入图片描述

3.4 新建第一个Dify应用

在Dify主页中的创建应用中点击创建空白应用,弹出创建弹窗后,选择聊天助手,输入应用名称与描述后点击创建即可。
首次创建的应用,使用的模型不是我们想要的本地deepseek,此时点击右上角发布按钮左侧的模型选择框,点击后将有下来框可以选择本地Ollama中运行的deepseek(图例为已添加deepseek后的状态,可对模型相关参数进行调整)。
在这里插入图片描述
此时,可以在聊天输入框中输入 你是谁? 进行测试,若能够回答,则Dify对接本地deepseek成功。
在这里插入图片描述

参考文档

1.从零开始!在 Windows 上安装与配置 Dify;
2.DeepSeek + Dify :零成本搭建企业级本地私有化知识库保姆级教程;
3.在 Windows 上配置 Ollama 服务并开放局域网访问;
4.Dify官方文档.

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/71064.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

使用Spring Boot与达梦数据库(DM)进行多数据源配置及MyBatis Plus集成

使用Spring Boot与达梦数据库(DM)进行多数据源配置及MyBatis Plus集成 在现代企业级应用开发中,处理多个数据源是一个常见的需求。本文将详细介绍如何使用Spring Boot结合达梦数据库(DM),并通过MyBatis Plus来简化数据库操作&…

第二十四:5.2【搭建 pinia 环境】axios 异步调用数据

第一步安装&#xff1a;npm install pinia 第二步&#xff1a;操作src/main.ts 改变里面的值的信息&#xff1a; <div class"count"><h2>当前求和为&#xff1a;{{ sum }}</h2><select v-model.number"n">  // .number 这里是…

使用 DeepSeek 生成流程图、甘特图与思维导图:结合 Typora 和 XMind 的高效工作流

在现代工作与学习中&#xff0c;可视化工具如流程图、甘特图和思维导图能够极大地提升信息整理与表达的效率。本文将详细介绍如何使用 DeepSeek 生成 Mermaid 文本&#xff0c;结合 Typora 快速生成流程图和甘特图&#xff0c;并通过 Markdown 格式生成思维导图&#xff0c;最终…

DeepSeek 开源周:第五天 - Fire-Flyer 文件系统(3FS)

&#xff08;下面文字主要由 Grok 3 协助生成&#xff09; 概述 Deepseek 今天开源的 Fire-Flyer 文件系统&#xff08;3FS&#xff09;是一个高性能分布式文件系统&#xff0c;专门为 AI 训练和推理设计。研究表明&#xff0c;它解决了 AI 工作负载中处理海量数据的高效存储需…

【笔记】论文阅读方法(AI大模型)

1 为什么读论文 构建知识体系&#xff1a;通过Related Works快速了解该方向研究现状&#xff0c;追踪经典论文 紧跟前沿技术&#xff1a;了解领域内新技术及效果&#xff0c;快速借鉴到自身项目 培养科研逻辑&#xff1a;熟悉论文体系&#xff0c;了解如何创造新事物&#x…

【数据集】ACM数据集

ACM&#xff08;Association for Computing Machinery&#xff09;数据集是计算机科学领域常用于研究学术论文、作者关系、引文网络、推荐系统、图神经网络&#xff08;GNN&#xff09;等任务的数据集之一。该数据集通常包含学术论文、作者、研究领域以及它们之间的关系&#x…

SQL server配置ODBC数据源(本地和服务器)

本地配置 1. 控制面板中找到系统ODBC数据源&#xff08;打开控制面板直接搜&#xff09; 2. 选择“系统DSN”&#xff0c;点击“添加” 3. 选择“SQL server” 4. 名称和描述自己填&#xff0c;服务器选择本机设备名称 5. 选择ID和密码验证&#xff0c;并填写本地SQL server登…

使用 Postman 访问 Keycloak 端点

1. 引言 在本教程中&#xff0c;我们将首先快速回顾 OAuth 2.0、OpenID 和 Keycloak。然后&#xff0c;我们将了解 Keycloak REST API 以及如何在 Postman 中调用它们。 2. OAuth 2.0 OAuth 2.0 是一个授权框架&#xff0c;它允许经过身份验证的用户通过令牌向第三方授予访问…

文生图开源模型发展史(2014-2025年)

文生图开源模型的发展历程是一段充满技术革新、社区生态繁荣与商业化竞争的多维度演进史。 一、技术萌芽期&#xff08;2014-2020年&#xff09; 核心突破 2014年&#xff1a;GAN&#xff08;生成对抗网络&#xff09;诞生&#xff0c;首次实现数据驱动式图像生成&#xff0…

微服务学习(2):实现SpringAMQP对RabbitMQ的消息收发

目录 SpringAMQP是什么 为什么采用SpringAMQP SpringAMQP应用 准备springBoot工程 实现消息发送 SpringAMQP是什么 Spring AMQP是Spring框架下用于简化AMQP&#xff08;高级消息队列协议&#xff09;应用开发的一套工具集&#xff0c;主要针对RabbitMQ等消息中间件的集成…

AI人工智能机器学习之神经网络

1、概要 本篇学习AI人工智能机器学习之神经网络&#xff0c;以MLPClassifier和MLPRegressor为例&#xff0c;从代码层面讲述最常用的神经网络模型MLP。 2、神经网络 - 简介 在 Scikit-learn 中&#xff0c;神经网络是通过 sklearn.neural_network 模块提供的。最常用的神经网…

WPF高级 | WPF 与数据库交互:连接、查询与数据更新

WPF高级 | WPF 与数据库交互&#xff1a;连接、查询与数据更新 前言一、数据库交互基础概念1.1 数据库简介1.2 数据访问技术 二、WPF 与数据库连接2.1 连接字符串2.2 建立连接 三、WPF 中的数据查询3.1 使用ADO.NET进行数据查询3.2 使用 Entity Framework 进行数据查询3.3 使用…

【ESP32S3接入讯飞在线语音识别】

【ESP32S3接入讯飞在线语音识别】 1. 前言1.1 步骤概括1.2 硬件介绍1.3 接线2. 操作流程2.1 创建语音识别应用2.2 记录API秘钥3. JSON语音接入api3.1 JSON格式3.2 交互流程3.2 ESP32S3 Sense接入代码1. 核心功能2. 主要模块3. 工作流程4. 典型应用场景5. 关键技术点6. 待完善功…

学生管理前端

文章目录 首页student.html查询功能 首页 SpringBoot前端html页面放在static文件夹下&#xff1a;/src/main/resources/static 默认首页为index.html&#xff0c;我们可以用两个超链接或者两个button跳转到对应的页面。这里只是单纯的跳转页面&#xff0c;不需要提交表单等其…

(动态规划 最长递增的子序列)leetcode 300

这道题我第一眼反应就是暴力&#xff0c;但是暴力的话就是n*n-1*n-2*...n-(n-1) 也就是O(n^n)dfs做绝对超时 贪心也不行&#xff0c;这里是子序列&#xff0c;要考虑在ni的范围内考虑多种路线取最优&#xff0c;所以用动态规划 如何用动态规划呢&#xff1f; 答&#xff1a;…

RabbitMQ系列(六)基本概念之Routing Key

在 RabbitMQ 中&#xff0c;Routing Key&#xff08;路由键&#xff09; 是用于将消息从交换机&#xff08;Exchange&#xff09;路由到指定队列&#xff08;Queue&#xff09;的关键参数。其核心作用是通过特定规则匹配绑定关系&#xff0c;确保消息被正确分发。以下是其核心机…

Spark内存并行计算框架

spark核心概念 spark集群架构 spark集群安装部署 spark-shell的使用 通过IDEA开发spark程序 1. Spark是什么 Apache Spark™ is a unified analytics engine for large-scale data processingspark是针对于大规模数据处理的统一分析引擎 spark是在Hadoop基础上的改进&…

Ubuntu 安装 Nginx并配置反向代理

Ubuntu版本&#xff1a;Ubuntu 24.04.2 LTS 一、安装Nginx ​更新系统软件包​ 安装前需确保系统处于最新状态&#xff0c;避免依赖冲突 sudo apt update && sudo apt upgrade -y ​安装Nginx主程序​ Ubuntu官方仓库已包含稳定版Nginx&#xff0c;直接安装即可 sudo…

Solr中得Core和Collection的作用和关系

Solr中得Core和Collection的作用和关系 一&#xff0c; 总结 在Apache Solr中&#xff0c;Core和Collection 是两个核心概念&#xff0c;他们分别用于单机模式和分布式模式&#xff08;SolrCloud&#xff09;中&#xff0c;用于管理和组织数据。 二&#xff0c;Core 定义&am…

yolov8,yolo11,yolo12 服务器训练到部署全流程 笔记

正在进行中&#xff0c;随时更新 一. Anaconda配置 1.安装anaconda (1)下载.sh文件 Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror (2)scp到服务器后&#xff0c;运行安装包 bash Anaconda3-2020.07-Linux-x86_64.sh (3)安装anacond…