Windows下ollama详细安装指南

文章目录

    • 1、Windows下ollama详细安装指南
      • 1.1、ollama介绍
      • 1.2、系统要求
      • 1.3、下载安装程序
      • 1.4、安装步骤
      • 1.5、验证安装
      • 1.6、环境变量配置
      • 1.7、模型选择与安装【deepseek 示例】
        • 1.7.1、拉取并运行模型
        • 1.7.2、进阶使用技巧

1、Windows下ollama详细安装指南


1.1、ollama介绍

ollama是一个专为在本地环境中运行和定制大型语言模型而设计的工具。它提供了一个简单而高效的接口,用于创建、运行和管理这些模型,同时还提供了一个丰富的预构建模型库,可以轻松集成到各种应用程序中。ollama的目标是使大型语言模型的部署和交互变得简单,无论是对于开发者还是对于终端用户

1.2、系统要求

  • Windows 10/11 64位
  • 8GB RAM(推荐16GB+)
  • 10GB 可用存储空间
  • 已启用虚拟化(BIOS/UEFI设置)
  • 支持CUDA的NVIDIA GPU(可选,用于GPU加速)

1.3、下载安装程序

  1. 访问官方下载页面:

    1. 官方地址:https://ollama.com/download
    2. 百度网盘:https://pan.baidu.com/s/18X96ZrqZGF_kJlKLpuTZVA 提取码: byi8
  2. 选择 Windows 版本下载 在这里插入图片描述

  3. 保存安装文件到本地(默认名称为 OllamaSetup.exe

1.4、安装步骤

  1. 运行安装程序

    • 双击下载的 OllamaSetup.exe
    • 如果出现用户账户控制提示,点击"是"
      在这里插入图片描述
  2. 完成安装

    • 当出现"Installation Complete"提示时点击"Finish"

1.5、验证安装

  1. 打开 PowerShell 或 CMD

  2. 执行版本检查命令:

    ollama --version
    

    ✅ 正常输出示例:

    ollama version 0.1.20
    

1.6、环境变量配置

Ollama 的默认模型存储路径如下:C:\Users%username%.ollama\models,无论 C 盘空间大小,需要安装多少模型,都建议换一个存放路径到其它盘。

  1. 添加安装路径到PATH

    • 设置步骤:

      1. Win+S 搜索 “环境变量” → 编辑系统环境变量

      2. 点击"环境变量" → 系统变量 →新增

        • 变量名为:OLLAMA_MODELS
        • 变量值为:E:\Tools\ollama\models
          在这里插入图片描述
      3. 确定保存

  2. Ollama 退出重新启动

    Windows 右下角图标点击退出后,重新启动

1.7、模型选择与安装【deepseek 示例】

  • 硬件配置推荐表
R1模型版本CPUGPU内存存储
1.5BIntel Core i5/AMD Ryzen 5 及以上无强制要求,有 1GB 及以上显存可提升性能最低 8GB,推荐 16GB+至少 10GB,建议留更多缓存空间
7BIntel Core i7/AMD Ryzen 7 及以上无强制要求,有 4GB 以上显存更好,推荐 8 - 12GB最低 16GB,推荐 32GB+至少 12GB,建议 30GB+
8BIntel Core i7/AMD Ryzen 7 及以上无强制要求,有 4.5GB 以上显存更好,推荐 8GB+最低 16GB,推荐 32GB+至少 12GB,建议 30GB+
14BIntel Core i9/AMD Ryzen 9 及以上8GB 以上,推荐 12GB+,如 RTX 3080 及以上最低 32GB,推荐 64GB至少 15GB,建议 50GB+
32B高端多核,强多线程处理能力18GB 左右,建议 24GB+,如 NVIDIA A10032GB+,推荐 64GB+至少 20GB,建议 80GB+
70B服务器级 CPU,如 Intel Xeon 系列40GB 以上,如 NVIDIA H10064GB+,推荐 128GB+至少 30GB,建议 200GB+
  • 模型选择决策树
通用对话
代码生成
多模态任务
轻量化部署
中文优先
多语言支持
英文优先
Python
Java/C++
Web开发
文本+图像
纯文本
低性能设备
高性能设备
中等性能设备
开始选择模型
主要任务类型
语言支持
编程语言
输入类型
设备性能
DeepSeek-R1
Llama 3.3
Phi-4
DeepSeek-R1
Llama 3.3
Mistral
Gemma 2
Llama 3.3
Phi-4
Gemma 2
Mistral
1.7.1、拉取并运行模型
  1. ollama可拉取模型地址:

    1. ollama library : https://ollama.com/library
    2. 官网首页:https://ollama.com/

    在这里插入图片描述
    以deepseek-r1 为例,点击首页中 DeepSeek-R1

在这里插入图片描述

  1. 拉取并运行模型:

    • 拉取指令
    ollama run deepseek-r1:671b
    # ollama run 目标模型:大小
    

    ✅ 正常输出结果如下:
    在这里插入图片描述

    • 模型交互:

      在交互框中可直接输入问题

    ✅ 正常输出结果如下:
    在这里插入图片描述

  2. 查询已下载模型

    ollama list
    

    ✅ 正常输出结果如下:

    在这里插入图片描述

  3. 其他指令

    # 查询模型信息
    ollama show qwen2:0.5b# 删除模型
    ollama rm qwen2:0.5b
    
1.7.2、进阶使用技巧
  • API 调用

注意:python中有集成的ollama工具包,需Python 3.8及以上版本

  • Install
pip install ollama
  • Custom client 示例:
from ollama import Client
client = Client(host='http://localhost:11434'
)
response = client.chat(model='deepseek-r1:7b', messages=[{'role': 'user','content': 'strawberry 中有几个r',},
])print(response['message']['content'])

更多API详见:https://pypi.org/project/ollama

REST API详见:https://github.com/ollama/ollama/blob/main/docs/api.md

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/895071.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

10vue3实战-----实现登录的基本功能

10vue3实战-----实现登录的基本功能 1.基本页面的搭建2.账号登录的验证规则配置3.点击登录按钮4.表单的校验5.账号的登录逻辑和登录状态保存6.定义IAccount对象类型 1.基本页面的搭建 大概需要搭建成这样子的页面: 具体的搭建界面就不多讲。各个项目都有自己的登录界面&#…

RestTemplate Https 证书访问错误

错误信息 resttemplate I/O error on GET request for “https://21.24.6.6:9443/authn-api/v5/oauth/token”: java.security.cert.CertificateException: No subject alternative names present; nested exception is javax.net.ssl.SSLHandshakeException: java.security.c…

讲人话的理解ai学习原理

通过把各种东西打上分数标签存起来。ai不花算力是不可能的,需要巨大的算力,需要要大量gpu芯片,如果大大降低成本,就需要蒸馏别人成果,把这些参数偷偷弄过来。 比如”猫睡在石头上感觉很凉快,很舒服&#x…

【杂谈】-文明的量子跃迁:AI时代人类物种的自我重构

文章目录 文明的量子跃迁:AI时代人类物种的自我重构一、文明基因的双螺旋进化二、意识矩阵的拓扑重构三、伦理穹顶下的共生协议 文明的量子跃迁:AI时代人类物种的自我重构 在撒哈拉沙漠的岩壁上,史前人类用赭石颜料绘制出羚羊与猎人的身影&a…

vue3 点击图标从相册选择二维码图片,并使用jsqr解析二维码(含crypto-js加密解密过程)

vue3 点击图标从相册选择二维码图片,并使用jsqr解析二维码(含crypto-js加密解密过程) 1.安装 jsqr 和 crypto-js npm install -d jsqr npm install crypto-js2.在util目录下新建encryptionHelper.js文件,写加密解密方法。 // e…

支持多种网络数据库格式的自动化转换工具——VisualXML

一、VisualXML软件介绍 对于DBC、ARXML……文件的编辑、修改等繁琐操作,WINDHILL风丘科技开发的总线设计工具——VisualXML,可轻松解决这一问题,提升工作效率。 VisualXML是一个强大且基于Excel表格生成多种网络数据库文件的转换工具&#…

【JVM详解四】执行引擎

一、概述 Java程序运行时,JVM会加载.class字节码文件,但是字节码并不能直接运行在操作系统之上,而JVM中的执行引擎就是负责将字节码转化为对应平台的机器码让CPU运行的组件。 执行引擎是JVM核心的组成部分之一。可以把JVM架构分成三部分&am…

C++ 顺序表

顺序表的操作有以下: 1 顺序表的元素插入 给定一个索引和元素,这个位置往后的元素位置都要往后移动一次,元素插入的步骤有以下几步 (1)判断插入的位置是否合法,如果不合法则抛出异常 (2&…

mysql安装starting the server报错

win10家庭版无法启动服务的,先不要退出,返回上一栏,然后通过电脑搜索栏输入服务两个字,在里面找到mysql80,右键属性-登录,登录身份切换为本地系统就行了

萬有的函數關係速成2. 連續和導數

1.討論間斷點類型 定义: 若函数在某点不满足连续的条件,则该点为间断点。 第一类间断点是左右极限都存在的间断点,其中左右极限相等的是可去间断点,不相等的是跳跃间断点; 第二类间断点是左右极限至少有一个不存在的间断点,包括无穷间断点(极限为无穷)和振荡间断点…

【专题】2025年我国机器人产业发展形势展望:人形机器人量产及商业化关键挑战报告汇总PDF洞察(附原数据表)

原文链接:https://tecdat.cn/?p39668 机器人已广泛融入我们生活的方方面面。在工业领域,它们宛如不知疲倦的工匠,精准地完成打磨、焊接等精细工作,极大提升了生产效率和产品质量;在日常生活里,它们是贴心…

用docker在本地用open-webui部署网页版deepseek

前置条件 用Ollama在本地CMD窗口运行deepseek大模型-CSDN博客文章浏览阅读109次,点赞5次,收藏2次。首次运行需要下载deepseek的大模型包(大约5GB,根据本地网速的不同在半个小时到几个小时之间下载完成) ,并…

android的DataBinding简介

Android DataBinding 简介 DataBinding 是 Android Jetpack 中的数据绑定库,用于将 UI 组件直接与数据模型绑定,减少模板代码并实现双向数据同步。它通过声明式布局简化 UI 更新逻辑,常用于 MVVM(Model-View-ViewModel&#xff0…

企业如何利用DeepSeek提升网络安全管理水平

企业可以通过深度整合DeepSeek的AI能力,构建智能化、动态化的网络安全防御体系,以应对APT(高级持续性威胁)等复杂攻击。以下是具体策略与实践路径: 1. AI驱动的威胁检测与分析 多模态威胁狩猎 DeepSeek的深度学习技术能…

DeepSeek-R1 云环境搭建部署流程

DeepSeek横空出世,在国际AI圈备受关注,作为个人开发者,AI的应用可以有效地提高个人开发效率。除此之外,DeepSeek的思考过程、思考能力是开放的,这对我们对结果调优有很好的帮助效果。 DeepSeek是一个基于人工智能技术…

x小兔鲜vue.js

LayoutFooter.vue <template><footer class"app_footer"><!-- 联系我们 --><div class"contact"><div class"container"><dl><dt>客户服务</dt><dd><i class"iconfont icon-kef…

磁盘分区损坏:深度解析与数据恢复策略

一、磁盘分区损坏现象概述 磁盘分区损坏是计算机数据存储领域的一个常见问题&#xff0c;它通常表现为硬盘上的某个分区无法正常访问&#xff0c;数据读写失败&#xff0c;甚至整个分区消失。这种损坏可能源于多种因素&#xff0c;不仅影响用户的正常使用&#xff0c;更可能导…

fetch请求总结,fastadmin中后台接口强制返回json数据

fetch请求 提交图片,只支持formData方式,这样会自动变为multiform方式,而且一般的post大多都可以用这样的方式来完成请求 const formData new FormData(); formData.append(file, fileInput.files[0]); formData.append(pid, id); formData.append(dc, 1);fetch(/api/common…

Python----Python高级(网络编程:网络基础:发展历程,IP地址,MAC地址,域名,端口,子网掩码,网关,URL,DHCP,交换机)

一、网络 早期的计算机程序都是在本机上运行的&#xff0c;数据存储和处理都在同一台机器上完成。随着技术的发展&#xff0c;人 们开始有了让计算机之间相互通信的需求。例如安装在个人计算机上的计算器或记事本应用&#xff0c;其运行环 境仅限于个人计算机内部。这种设置虽然…

k8sollama部署deepseek-R1模型,内网无坑

这是目录 linux下载ollama模型文件下载到本地,打包迁移到k8s等无网络环境使用下载打包ollama镜像非k8s环境使用k8s部署访问方式非ollama运行deepseek模型linux下载ollama 下载后可存放其他服务器 curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linu…