ubuntu系统 | dify+ollama+deepseek搭建本地应用

1、安装 Ollama

下载并安装 Ollama

(llm) wangqiang@wangqiang:~$ curl -fsSL https://ollama.ai/install.sh | bash
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle0.3%

curl -fsSL https://ollama.ai/install.sh (下载ollama需要很久)

curl 是一个命令行工具,用于从网络下载数据。这里它下载 Ollama 的安装脚本。

  • -f (--fail):如果 HTTP 请求失败(如 404),静默退出,不显示 HTML 错误页面。

  • -s (--silent):静默模式,不显示进度或错误信息(除非严重错误)。

  • -S (--show-error):与 -s 一起使用时,仍然显示错误信息(如连接失败)。

  • -L (--location):如果 URL 发生重定向(如 301/302),自动跟随新地址。

| bash

|(管道符)将 curl 下载的脚本内容传递给 bash,并立即执行。

检查 Ollama 版本

ollama -v

 启动 Ollama 服务

ollama serve

卸载Ollama:

ollama uninstall

下载并运行deepseek:

ollama run deepseek-r1:32b

 2、安装docker

ubuntu系统安装docker并进行配置:

1、Ubuntu系统安装docker_docker ubuntu systemctl-CSDN博客

2、ubuntu系统docker介绍及镜像源和仓库配置-CSDN博客


# 安装 Docker Compose
sudo curl -L "https://github.com/docker/compose/releases/download/v2.23.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose# 验证安装
docker-compose --version

3、安装 Dify(AI 工作流平台)

克隆 Dify 仓库

# 创建工作目录
mkdir dify && cd dify# 克隆 Dify 代码
git clone https://github.com/langgenius/dify.git
cd dify/docker

配置 Dify

# 复制配置文件模板
cp .env.example .env# 编辑配置文件
nano .env

修改以下关键参数:

# 数据库密码(自定义)
POSTGRES_PASSWORD=your_password# Redis 密码(自定义)
REDIS_PASSWORD=your_password# Ollama 配置(连接本地 Ollama 服务)
OLLAMA_BASE_URL=http://host.docker.internal:11434
OLLAMA_MODEL_NAME=deepseek-r1:7b

启动 Dify 服务

# 启动所有依赖服务(数据库、缓存等)
docker compose up -d db redis weaviate# 启动 Dify 核心服务
docker compose up -d

验证服务状态

# 检查容器运行状态
docker ps

确保以下容器状态为 Up

  • dify-api-1
  • dify-web-1
  • dify-worker-1

配置 Dify 与 Ollama/DeepSeek 集成

打开浏览器访问:http://localhost

首次使用需注册管理员账户。

4.2 添加模型配置

登录后进入 Settings → Model Provider,添加以下配置:

  • Model TypeLocal Model (Ollama)
  • Base URLhttp://host.docker.internal:11434
  • Model Namedeepseek-r1:7b

dify官网使用说明文档

https://docs.dify.ai/zh-hans/introduction

五、使用本地知识库

5.1 上传文档

  1. 在 Dify 控制台进入 Knowledge Base
  2. 点击 Upload File,支持 PDF、TXT、DOCX 等格式。
  3. 上传后,Dify 会自动解析并存储为向量数据库。

5.2 使用 RAG 功能

  1. 在 Chat 页面中输入查询。
  2. Dify 会结合 DeepSeek 模型和本地知识库内容生成回答。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/web/80607.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

从纸质契约到智能契约:AI如何改写信任规则与商业效率?​——从智能合约到监管科技,一场颠覆传统商业逻辑的技术革命

一、传统合同的“低效困境”:耗时、昂贵、风险失控 近年来,全球商业环境加速向数字化转型,但合同管理却成为企业效率的“阿喀琉斯之踵”。据国际商会(International Chamber of Commerce)数据显示,全球企业…

【机器学习|学习笔记】基于生成对抗网络的孪生框架(GAN-based Siamese framework,GSF)详解,附代码。

【机器学习|学习笔记】基于生成对抗网络的孪生框架(GAN-based Siamese framework,GSF)详解,附代码。 【机器学习|学习笔记】基于生成对抗网络的孪生框架(GAN-based Siamese framework,GSF)详解,附代码。 文章目录 【机器学习|学习笔记】基于生成对抗网络的孪生框架(G…

UEFI Spec 学习笔记---33 - Human Interface Infrastructure Overview---33.2.6 Strings

33.2.6 Strings UEFI 环境中的 string 是使用 UCS-2 格式定义,每个字符由 16bit 数据表示。对于用户界面,strings 也是一种可以安装到 HIIdatabase 的一种数据。 为了本土化,每个 string 通过一个唯一标识符来识别,而每一个标识…

Stable Diffusion 学习笔记02

模型下载网站: 1,LiblibAI-哩布哩布AI - 中国领先的AI创作平台 2,Civitai: The Home of Open-Source Generative AI 模型的安装: 将下载的sd模型放置在sd1.5的文件内即可,重启客户端可用。 外挂VAE模型&#xff1a…

并发编程(5)

抛异常时会释放锁。 当线程在 synchronized 块内部抛出异常时,会自动释放对象锁。 public class ExceptionUnlockDemo {private static final Object lock new Object();public static void main(String[] args) {Thread t1 new Thread(() -> {synchronized …

贵州某建筑物挡墙自动化监测

1. 项目简介 某建筑物位于贵州省某县城区内,靠近县城主干道,周边配套学校、医院、商贸城。建筑物临近凤凰湖、芙蓉江等水系,主打“湖景生态宜居”。改建筑物总占地面积:约5.3万平方米;总建筑面积:约15万平…

6个月Python学习计划:从入门到AI实战(前端开发者进阶指南)

作者:一名前端开发者的进阶日志 计划时长:6个月 每日学习时间:2小时 覆盖方向:Python基础、爬虫开发、数据分析、后端开发、人工智能、深度学习 📌 目录 学习目标总览每日时间分配建议第1月:Python基础与编…

【FAQ】HarmonyOS SDK 闭源开放能力 —Vision Kit (3)

1.问题描述: 通过CardRecognition识别身份证拍照拿到的照片地址,使用该方法获取不到图片文件,请问如何解决? 解决方案: //卡证识别实现页,文件名为CardDemoPage,需被引入至入口页 import { …

AI全域智能监控系统重构商业清洁管理范式——从被动响应到主动预防的监控效能革命

一、四维立体监控网络技术架构 1. 人员行为监控 - 融合人脸识别、骨骼追踪与RFID工牌技术,身份识别准确率99.97% - 支持15米超距夜间红外监控(精度0.01lux) 2. 作业过程监控 - UWB厘米级定位技术(误差<0.3米&…

安全强化的Linux

SElinux简介 SELinux是security-Enhanced Linux的缩写,意思是安全强化的linux SELinux主要由美国国家安全局(NSA)开发,当初开发的目的是为了避免资源的误用。传统的访问控制在我们开启权限后,系统进程可以直接访问 当我们对权限设置不严谨时,这种访问方式就是系统的安全漏洞 在…

机器学习第十六讲:K-means → 自动把超市顾客分成不同消费群体

机器学习第十六讲:K-means → 自动把超市顾客分成不同消费群体 资料取自《零基础学机器学习》。 查看总目录:学习大纲 关于DeepSeek本地部署指南可以看下我之前写的文章:DeepSeek R1本地与线上满血版部署:超详细手把手指南 K-me…

spring中yml配置上下文与tomcat等外部容器不一致问题

结论:外部优先级大于内部 在 application.yml 中配置了: server:port: 8080servlet:context-path: /demo这表示你的 Spring Boot 应用的上下文路径(context-path)是 /demo,即访问你的服务时,URL 必须以 /d…

论文研读——《AnomalyGPT:使用大型视觉语言模型检测工业异常》

这篇论文提出了 AnomalyGPT,一个基于大型视觉语言模型的工业异常检测框架,首次将通用多模态对话能力引入工业视觉场景,通过引入图像解码器增强像素级感知,设计 Prompt 学习器实现任务自适应控制,并利用合成异常样本解决…

供应链安全检测系列技术规范介绍之一|软件成分分析

软件成分分析的概念及意义 软件成分分析Software Compostition Analysis(SCA)是一种用于管理开源组件应用安全的方法。软件成分分析系统可以快速跟踪和分析应用软件的开源组件,发现相关组件、支持库以及它们之间直接和间接依赖关系&#xff0…

conda更换清华源

1、概览 anaconda更换速度更快、更稳定的下载源,在linux环境测试通过。 2、conda源查看 在修改之前可以查看下现有conda源是什么,查看conda配置信息,如下: cat ~/.condarc 可以看到你的conda源,以我的conda源举例&am…

Docker配置容器开机自启或服务重启后自启

要将一个 Docker 容器设置为开机自启,你可以使用 docker update 命令或配置 Docker 服务来实现。以下是两种常见的方法: 方法 1:使用 docker update 设置容器自动重启 使用 docker update 设置容器为开机自启 你可以使用以下命令&#xff0c…

Flink 的水印机制

Apache Flink 的 水印机制(Watermark Mechanism) 主要用于解决 事件时间流中的乱序问题(Out-of-Order Events),确保窗口(Window)能够在合适的时间触发计算,从而提供准确、一致的处理…

【每天一个知识点】embedding与representation

“Embedding(嵌入)”与“Representation(表示)”在机器学习、自然语言处理(NLP)、图神经网络等领域常被使用,它们密切相关,但语义上有一定区别。 一、定义 1. Representation&#…

SpringBoot(二)--- SpringBoot基础(http协议、分层解耦)

目录 前言 一、SpringBoot入门 1.入门程序 2.解析 二、HTTP协议 1.HTTP概述 2.HTTP请求协议 2.1 GET方式的请求协议 2.2 POST方式的请求协议 2.3 两者的区别 2.4 获取请求数据 3.HTTP响应协议 三、分层解耦 1.三层架构 2.IOC&DI 2.1 入门 2.2 IOC详解 2.…

Please install it with pip install onnxruntime

无论怎么安装都是 Please install it with pip install onnxruntime 我python 版本是3.11 ,我换成3.10 解决了