本文将详细介绍如何使用Ollama、Deepseek R1大语音模型、Nomic-Embed-Text向量模型和AnythingLLM共同搭建一个本地的私有RAG知识库。
一. 准备工作
什么是RAG？
RAG是一种结合了信息检索和大模型（LLM）的技术，在对抗大模型幻觉、高效管理用户本地文件以及数据安全保护等方面具有独到的优势。
主要包括：
-
索引：将文档库分割成较短的 Chunk，并通过编码器构建向量索引。
-
检索：根据问题和 chunks 的相似度检索相关文档片段。
-
生成：以检索到的上下文为条件，生成问题的回答。
在开始之前，确保我们需要使用的工具和库：
-
Ollama
-
Deepseek R1 LLM模型
-
Nomic-Embed-Text向量模型
-
AnythingLLM
二. 安装 Ollama
Ollama 是一个用于本地运行大型语言模型的工具。
可以通过以下步骤安装 Ollama：
2.1 下载 Ollama
-
访问 Ollama 的 https://ollama.com/官方网站，下载适合你操作系统的安装包。
2.2 安装 Ollama
2.3 验证安装
- 打开终端或命令提示符，输入 ollama --version，确保安装成功。
2.4 Ollama常用命令
三. 配置 DeepSeek R1 模型
3.1 下载 DeepSeek R1 模型
- 从 Ollama的官方网站下载 DeepSeek R1 模型文件。
1ollama run deepseek-r1:7b
3.2 启动模型
- 启动和下载模型是同一个命令，如果没有下载过的新模型会直接下载，以及下载过的则直接启动。
1ollama run deepseek-r1:7b
四. 配置 Nomic-Embed-Text 模型
4.1 下载 Nomic-Embed-Text 模型
- 从 Ollama的官方网站下载 nomic-embed-text 模型文件。
1ollama pull nomic-embed-text
4.2 模型下载完成
五. 安装AnythingLLM
AnythingLLM 是一个功能强大且灵活的开源平台，旨在帮助用户轻松构建和部署基于大型语言模型 (LLM) 的私有化应用程序。
它提供了直观的用户界面、丰富的功能以及高度的可定制性，即使是没有任何编程经验的用户也能快速上手：
-
https://anythingllm.com/desktop，登录官网。
-
下载对应的版本
- 打开anythingllm。
六. 搭建RAG本地知识库
现在已经安装并配置好了Ollama、Deepseek R1、Nomic-Embed-Text和AnythingLLM，接下来我们将它们结合起来搭建一个本地的私有RAG知识库。
6.1 数据准备
首先，你需要准备一个知识库数据集。这个数据集可以是一个包含大量文档的目录，也可以是一个预处理的JSON文件。确保每个文档都有一个唯一的ID和文本内容。
我们准备一个Deepseek Janus pro的介绍文档。
6.2 构建索引
使用Nomic-Embed-Text将知识库中的文档转换为向量表示，并构建一个索引：
6.3 检索相关信息
使用Deepseek R1和检索本地向量数据库：
七. 总结
通过本文的介绍，你已经学会了如何搭建一个本地的私有RAG知识库。这个知识库可以帮助你高效地管理和利用知识，同时增强大模型专业应用方向的能力。
