本地部署 DeepSeek-R1 模型

文章目录

  • 霸屏的AI
  • DeepSeek是什么?
  • 安装DeepSeek
  • 安装图形化界面
  • 总结


霸屏的AI

    最近在刷视频的时候,总是突然突然出现一个名叫 DeepSeek 的玩意,像这样:

在这里插入图片描述

这样:

在这里插入图片描述

这不经激起我的一顿好奇心,这 DeepSeek 到底是个什么玩意

请添加图片描述

DeepSeek是什么?

    这突然冒出来的AI,更加让我好奇了,随着ChatGPT席卷全球,已经是一两年前的事情了,这次出现的 DeepSeek 究竟有什么魅力。在好奇心的驱使下,我打开了他的官网。

在这里插入图片描述

在这里插入图片描述

嗯?国产的?这好像也没啥新奇的,毕竟国内早就有文心一言、星火等同类的产品了。

在这里插入图片描述

桥豆麻袋,github 上怎么也会有同名项目。

在这里插入图片描述

难道是开源的?这怎么不可能呢?从来没见过那个大模型是开源的。

在这里插入图片描述

在这里插入图片描述

阿这?真的是开源的。开源就开源吧。难不成我本地还能运行的起来?就我这8G的显存,还是有点自信的

在这里插入图片描述

这。。不能够吧,我的电脑可以运行AI了???那这高低得试试看了

安装DeepSeek

    在网上逛了一圈,只是体验的话,就不去整源码了。直接用 ollama 似乎比较方便点。官网的界面也很直接,没有什么乱七八糟的东西

在这里插入图片描述

直接根据自己的系统下载就可以了,安装也简单,无脑下一步下一步就行了

在这里插入图片描述

我这里已经安装过了,就不重复安装了。各位安装好之后,打开命令窗口,输入 ollama -v 验证是否安装成功,出现样子的信息,就是安装成功了

在这里插入图片描述

ollama 安装完成之后,接着就需要下载模型了,ollama 已经整合了 DeepSeek 相关模型了,大家可以根据自己的电脑配置进行选择

在这里插入图片描述

在这里插入图片描述

如果大家的电脑是近几年出的,应该都能够到中配置的门槛,不过这里为了演示方便,我就直接用1.5b最小模型,大家可以根据自己的配置进行选择。在命令行中,直接输入ollama run deepseek-r1:1.5b

在这里插入图片描述

下载完成后,就会出现这样子的界面,已经可以直接进行对话了

在这里插入图片描述

安装图形化界面

    虽然已经可以进行对话了,但是这个黑乎乎的窗口,看着像几十年前的产物,实在令人不爽。网上翻了半天的资料,发现主要的图形化界面有两个:Open WebUIChatbox。这里我选择用 Chatbox,老样子,去他的官网直接下载即可

在这里插入图片描述

安装完成,需要先配置下模型

在这里插入图片描述

在这里插入图片描述

配置好之后,就可以开始聊天了

在这里插入图片描述
额,这都哪跟哪啊,这个模型看起来有点捞啊,如果是官方自己的就不会这么离谱了

在这里插入图片描述

好了,这篇文章就到此为止,也没多少内容,就当抛砖引玉了,更细致的内容就看大家发挥了

总结

    这里主要尝试下最近比较火的 DeepSeek,他可以本地部署着实吸引人,这样可以在没有网络的环境下部署AI,意味着一些云内环境可以使用了。故而对此进行了一些调研,稍作记录

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/894353.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

断裂力学课程报告

谈谈你对线弹性断裂力学和弹塑性断裂力学的认识 经过对本课程的学习,我首先认识到断裂力学研究的是宏观的断裂问题,而不是研究属于断裂物理研究范围的微观结构断裂机理。断裂力学从材料内部存在缺陷出发,研究裂纹的生成、亚临界拓展&#xff…

代码随想录刷题day22|(字符串篇)344.反转字符串、541.反转字符串 II

目录 一、题目思路 二、相关题目 三、总结与知识点 3.1 字符数组转换成字符串 一、题目思路 344反转字符串比较容易,双指针即可在空间复杂度为O(1)的基础上解决; 541反转字符串II :其中for循环中 i 每次的取值,不是 i&#…

【机器学习】自定义数据集 使用pytorch框架实现逻辑回归并保存模型,然后保存模型后再加载模型进行预测,对预测结果计算精确度和召回率及F1分数

一、使用pytorch框架实现逻辑回归 1. 数据部分: 首先自定义了一个简单的数据集,特征 X 是 100 个随机样本,每个样本一个特征,目标值 y 基于线性关系并添加了噪声。将 numpy 数组转换为 PyTorch 张量,方便后续在模型中…

使用Visual Studio打包Python项目

1. 安装Visual Studio 首先,你需要在你的计算机上安装Visual Studio。 2. 创建项目 在Visual Studio中创建一个新的Python项目。 打开Visual Studio,点击“File”(文件) -> “New”(新建) -> “Pr…

TVM调度原语完全指南:从入门到微架构级优化

调度原语 在TVM的抽象体系中,调度(Schedule)是对计算过程的时空重塑。每一个原语都是改变计算次序、数据流向或并行策略的手术刀。其核心作用可归纳为: 优化目标 max ⁡ ( 计算密度 内存延迟 指令开销 ) \text{优化目标} \max…

51单片机——串口向电脑发送数据

引言 在电子技术领域,51 单片机作为一种广泛应用的微控制器,其串口通信功能具有重要意义。通过串口,51 单片机能够与电脑等外部设备进行数据交互,实现各种复杂的功能,为许多应用场景提供了可能。 51 单片机串口通信基…

高性能消息队列Disruptor

定义一个事件模型 之后创建一个java类来使用这个数据模型。 /* <h1>事件模型工程类&#xff0c;用于生产事件消息</h1> */ no usages public class EventMessageFactory implements EventFactory<EventMessage> { Overridepublic EventMessage newInstance(…

Java线程认识和Object的一些方法ObjectMonitor

专栏系列文章地址&#xff1a;https://blog.csdn.net/qq_26437925/article/details/145290162 本文目标&#xff1a; 要对Java线程有整体了解&#xff0c;深入认识到里面的一些方法和Object对象方法的区别。认识到Java对象的ObjectMonitor&#xff0c;这有助于后面的Synchron…

基于YOLO11的肺结节检测系统

基于YOLO11的肺结节检测系统 (价格90) LUNA16数据集 数据一共 1186张 按照8&#xff1a;1&#xff1a;1随机划分训练集&#xff08;948张&#xff09;、验证集&#xff08;118张&#xff09;与测试集&#xff08;120张&#xff09; 包含 nodule 肺结节 1种…

C++ Primer 自定义数据结构

欢迎阅读我的 【CPrimer】专栏 专栏简介&#xff1a;本专栏主要面向C初学者&#xff0c;解释C的一些基本概念和基础语言特性&#xff0c;涉及C标准库的用法&#xff0c;面向对象特性&#xff0c;泛型特性高级用法。通过使用标准库中定义的抽象设施&#xff0c;使你更加适应高级…

FFmpeg源码:av_base64_decode函数分析

一、引言 Base64&#xff08;基底64&#xff09;是一种基于64个可打印字符来表示二进制数据的表示方法。由于log2 646&#xff0c;所以每6个比特为一个单元&#xff0c;对应某个可打印字符。3个字节相当于24个比特&#xff0c;对应于4个Base64单元&#xff0c;即3个字节可由4个…

白话DeepSeek-R1论文(三)| DeepSeek-R1蒸馏技术:让小模型“继承”大模型的推理超能力

最近有不少朋友来询问Deepseek的核心技术&#xff0c;陆续针对DeepSeek-R1论文中的核心内容进行解读&#xff0c;并且用大家都能听懂的方式来解读。这是第三篇趣味解读。 DeepSeek-R1蒸馏技术&#xff1a;让小模型“继承”大模型的推理超能力 当大模型成为“老师”&#xff0c…

curope python安装

目录 curope安装 测试: 报错:libc10.so: cannot open shared object file: No such file or directory 解决方法: curope安装 git clone : GitHub - Junyi42/croco at bd6f4e07d5c4f13ae5388efc052dadf142aff754 cd models/curope/ python setup.py build_ext --inplac…

pytorch实现变分自编码器

人工智能例子汇总&#xff1a;AI常见的算法和例子-CSDN博客 变分自编码器&#xff08;Variational Autoencoder, VAE&#xff09;是一种生成模型&#xff0c;属于深度学习中的无监督学习方法。它通过学习输入数据的潜在分布&#xff08;Latent Distribution&#xff09;&…

《AI大模型开发笔记》DeepSeek技术创新点

一、DeepSeek横空出世 DeepSeek V3 以颠覆性技术架构创新强势破局&#xff01;革命性的上下文处理机制实现长文本推理成本断崖式下降&#xff0c;综合算力需求锐减90%&#xff0c;开启高效 AI 新纪元&#xff01; 最新开源的 DeepSeek V3模型不仅以顶尖基准测试成绩比肩业界 …

数仓实战项目,大数据数仓实战(离线数仓+实时数仓)

1.课程目标 2.电商行业与电商系统介绍 3.数仓项目整体技术架构介绍 4.数仓项目架构-kylin补充 5.数仓具体技术介绍与项目环境介绍 6.kettle的介绍与安装 7.kettle入门案例 这个连线是点击shift键&#xff0c;然后鼠标左键拖动 ctrls保存一下 csv输入配置 Excel输出配置 配置完 …

Spring Web MVC基础第一篇

目录 1.什么是Spring Web MVC&#xff1f; 2.创建Spring Web MVC项目 3.注解使用 3.1RequestMapping&#xff08;路由映射&#xff09; 3.2一般参数传递 3.3RequestParam&#xff08;参数重命名&#xff09; 3.4RequestBody&#xff08;传递JSON数据&#xff09; 3.5Pa…

【Linux】使用VirtualBox部署Linux虚拟机

1. 下载并安装 VirtualBox 访问 VirtualBox 官网&#xff0c;下载适合你操作系统的版本&#xff08;Windows&#xff09;。安装 VirtualBox&#xff0c;按照安装向导的提示完成安装。 2. 下载 Linux 发行版 ISO 文件 访问你选择的 Linux 发行版官方网站&#xff08;例如&…

Day07:缓存-数据淘汰策略

Redis的数据淘汰策略有哪些 ? &#xff08;key过期导致的&#xff09; 在redis中提供了两种数据过期删除策略 第一种是惰性删除&#xff0c;在设置该key过期时间后&#xff0c;我们不去管它&#xff0c;当需要该key时&#xff0c;我们再检查其是否过期&#xff0c;如果过期&…

[原创](Modern C++)现代C++的关键性概念: 正则表达式

常用网名: 猪头三 出生日期: 1981.XX.XX 企鹅交流: 643439947 个人网站: 80x86汇编小站 编程生涯: 2001年~至今[共24年] 职业生涯: 22年 开发语言: C/C、80x86ASM、PHP、Perl、Objective-C、Object Pascal、C#、Python 开发工具: Visual Studio、Delphi、XCode、Eclipse、C Bui…