ollama终端的方式部署参考:ollama本地部署 智谱API Key获取
LM Studio
它是模型的托管平台,可以把模型加载后,作为服务器向外提供服务器,本身也具有简单的对话框可以聊天。
:https://lmstudio.ai/
在左下角改为开发者模式:
右下角改为汉语:
点击左边栏搜索,进入后搜索DeepDeek,点击下载,下载完后加载模型:
点击左边栏 “开发者” ,进入后打开Status:Running,也可以在Server Settings中设置是否向外开启服务器,默认只监听本机:
点击左边栏,“聊天”,这里就可以使用了。
Cherry Studio
其实在LM Studio中就已经可以聊天使用了,但是Cherry Studio是专门做聊天的界面,这里用它来连接LM Studio这个服务。
: https://www.cherry-ai.com
点击右上角设置:
搜索LM Studio,点击管理,这时候会看到在LM中运行的模型,点击+号,添加。
API密钥随便填写,然后旁边的检查,会提示连接成功:
点击左边栏的 默认模型 把三个默认模型都换成连接到的deepseek:
返回首页,点击话题,开启对话: