主页 > 电脑硬件  > 

DeepSeek部署到本地(解决ollama模型下载失败问题)

DeepSeek部署到本地(解决ollama模型下载失败问题)
一、下载ollama软件安装 1、下载ollama软件 Ollama

下载完成后可以直接进行安装(外网,速度可能会有点慢)

2、修改安装目录

进去下载的目录,使用cmd打开终端输入OllamaSetup.exe /DIR=E:\MySoftware\Ollama

输入完成后会自动打开安装,直接install即可。

3、验证是否安装完成

使用ollama - v 查看版本号

二、 下载deepseek模型 1、进入ollama官网,选择需要的模型文件进行复制(我这里下载的1.5版本)

2、使用ollama进行安装 1、远程拉取模型

使用 win+r 打开终端

输入复制的命令 ollama run deepseek-r1:1.5b  

我这里是安装失败,网络连接失败了和网络有关,找了好久没有解决,所以只能添加模型镜像了

2、模型镜像添加 

1、进入镜像网站下载Models - Hugging Face(外网可能需要梯子)进行下载

2、另外一个模型库网站阿里云的魔塔ModelScope 模型库首页 · 魔搭社区 进行下载

3、等待下载完成,进入安装ollama的路径:我这里是 E:\wzk\Al    创建 deepseek-1.5b.mf文件 ,名字可以自己取。

deepseek-1.5b.mf文件内容:修改FROM为自己下载的镜像文件路径

# Modelfile generated by "ollama show" # To build a new Modelfile based on this, replace FROM with: # FROM deepseek-r1:7b

FROM E:\wzk\Al模型镜像\deepseek-1.5b.gguf TEMPLATE """{{- if .System }}{{ .System }}{{ end }} {{- range $i, $_ := .Messages }} {{- $last := eq (len (slice $.Messages $i)) 1}} {{- if eq .Role "user" }}<|User|>{{ .Content }} {{- else if eq .Role "assistant" }}<|Assistant|>{{ .Content }}{{- if not $last }}<|end▁of▁sentence|>{{- end }} {{- end }} {{- if and $last (ne .Role "assistant") }}<|Assistant|>{{- end }} {{- end }}""" PARAMETER stop <|begin▁of▁sentence|> PARAMETER stop <|end▁of▁sentence|> PARAMETER stop <|User|> PARAMETER stop <|Assistant|>

3、镜像文件安装

打开终端输入进行安装:

ollama create deepseek1.5 -f E:\wzk\Al\deepseek-1.5b.mf

出现success表示安装完成

输入 ollama list  查看是否安装完成

执行deepseek模型 ollama run deepseek1.5:latest ,就可以进行对话了

三、deepseek可视化

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

1、下载chatbox可视化软件进行安装

2、配置软件

选择ollama api 会自动选择我们部署完成的deepseek,保存即可

标签:

DeepSeek部署到本地(解决ollama模型下载失败问题)由讯客互联电脑硬件栏目发布,感谢您对讯客互联的认可,以及对我们原创作品以及文章的青睐,非常欢迎各位朋友分享到个人网站或者朋友圈,但转载请说明文章出处“DeepSeek部署到本地(解决ollama模型下载失败问题)