Linux服务升级：Almalinux升级DeepSeek-R1

目录

 一、实验

1.环境

2.Almalinux 部署 Ollama

3.Almalinux 升级 DeepSeek-R1

4.Almalinux 部署 docker

5. docker 部署 DeepSeek-R1

6.Almalinux 部署 Cpolar (内网穿透)

7.使用cpolar内网穿透

二、问题

1.构建容器失败

---

 一、实验 1.环境

（1）主机

表1 主机

系统版本软件IP备注Almalinux9.4

Ollama

Docker

Cpolar

192.168.204.150

配置：12C 16G

（2）Termius连接主机

（3）查看系统版本

cat /etc/os-release

（4）DeepSeek-R1版本

表2 版本

模型显存/内存备注1.5B

需要4核CPU + 5GB内存

最低3GB显存（GTX1060+）

7B

需要8核CPU + 9GB内存

最低6GB显存（GTX1650+）

8B

需要8核CPU + 10GB内存

最低8GB显存（GTX1660+）

14B

需要12核CPU + 16GB内存

最低12GB显存（RTX3070+）

32B

需要16核CPU + 36GB内存

推荐24GB显存（RTX4090）

70B

需要32核CPU + 75GB内存

需要多卡（2xA100）

家用电脑不适用

(5)查看cpu与内存

lscpu

free -m

（6）目标版本

主机配置：12C 16G

所以目标版本：14B

2.Almalinux 部署 Ollama

(1) 查阅

ollama /download/linux

(2) 预先安装软件包

安装包pciutils (查看pci总线设备信息)

安装包lshw （查看硬件信息）

yum install -y pciutils lshw

（3）下载

curl -fsSL ollama /install.sh | sh

最后提示仅CPU模式

（4）修改配置

添加配置（让物理机可以访问）

vim /etc/systemd/system/ollama.service …… Environment="OLLAMA_HOST=0.0.0.0" Environment="OLLAMA_ORIGINS=*" ……

修改前：

修改后

（5）重载配置

systemctl daemon-reload

(6)重启服务

systemctl restart ollama

(7)查看端口

ss -anlp | grep 11434

(8)访问

127.0.0.1:11434

物理机访问 （linux需要关闭防火墙与selinux）

http://192.168.204.150:11434/

3.Almalinux 升级 DeepSeek-R1

 (1) 查阅

ollama /library/deepseek-r1

(2) 选择

下拉选择14b

（3）复制命令执行

ollama run deepseek-r1:14b

（4）提问

devops含义

（5）退出

ctrl +d 或 /bye

这里输入 /bye 

4.Almalinux 部署 docker

(1) 安装docker

安装软件包yum-utils

yum install yum-utils -y

添加repo源

yum-config-manager --add-repo http://mirrors.aliyun /docker-ce/linux/centos/docker-ce.repo

安装

yum install docker-ce-24.0.6 -y

(2)开机启动

systemctl start docker systemctl enable docker

（3）查阅

developer.aliyun /article/29941

（4）docker镜像加速

修改配置文件

vim /etc/docker/daemon.json

XXXXXXXX为自己的镜像加速配置

{ "registry-mirrors":[" XXXXXXXX.mirror.aliyuncs "," docker.lmirror.top"," docker.m.daocloud.io", " hub.uuuadc.top"," docker.anyhub.us.kg"," dockerhub.jobcher "," dockerhub.icu"," docker.ckyl.me"," docker.awsl9527 "," docker.laoex.link"," ghcr.nju.edu "] }

（5）重启

systemctl restart docker

5. docker 部署 DeepSeek-R1

（1）查阅

Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台，旨在完全离线运行。它支持各种 LLM 运行器（如Ollama）和与OpenAI 兼容的 API，并内置RAG 推理引擎，使其成为强大的 AI 部署解决方案

Github开源地址: github /open-webui/open-webui Open WebUI 文档地址: docs.openwebui /features/

(2)拉取镜像

docker pull ghcr.io/open-webui/open-webui:main

如果拉不动，可以切换其他源拉取

# 如果拉不动的话切换镜像源 docker pull swr -north-4.myhuaweicloud /ddn-k8s/ghcr.io/open-webui/open-webui:v0.5.18 # 重命名镜像（如果是通过代理下载的） docker tag swr -north-4.myhuaweicloud /ddn-k8s/ghcr.io/open-webui/open-webui:v0.5.18 ghcr.io/open-webui/open-webui:main # 删除代理镜像（如果是通过代理下载的） docker rmi swr -north-4.myhuaweicloud /ddn-k8s/ghcr.io/open-webui/open-webui:v0.5.18

拉取

重新打标签

删除原有镜像

（3）查看镜像

docker images

（4）环境变量

表3 环境变量

变量值备注OLLAMA_API_BASE_URL    Ollama 服务器的地址WEBUI_SECRET_KEY密码，可用 Vaultwarden 生成的可选

（5）运行

运行容器（仅CPU）

docker run -d -p 9000:8080 -e OLLAMA_BASE_URL=http://192.168.204.150:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

查看容器

docker ps

(6)访问

点击开始使用

http://192.168.204.150:9000

（7）创建账号密码

创建完会自动登录

（8）确认开始使用

（9）进入界面

（10）提问

devops含义

回答

6.Almalinux 部署 Cpolar (内网穿透)

(1) 官网

.cpolar

（2）一键脚本安装命令

curl -L .cpolar /static/downloads/install-release-cpolar.sh | sudo bash

（3）开机自启

systemctl enable cpolar

（4）启动cpolar服务

systemctl start cpolar

(5) 监听服务端口

netstat -antlp | grep 9200

（6）浏览器访问

http://localhost:9200

登录仪表盘 （输入注册的账号密码）

7.使用cpolar内网穿透

（1）内网访问open webui

（2）固定二级子域名地址

登录cpolar官网点击左侧的预留，找到保留二级子域名，为远程服务器连接保留一个固定二级子域名地址

.cpolar

（3）创建隧道

域名类型：选择二级子域名   预留的http地址：复制粘贴官网保留成功的地址，Ollama   地区选择：China VIP

(4) 查看隧道列表

（4）查看在线隧道列表

（5）二级子域名地址访问

http访问

http://newollama.vip.cpolar

https访问

newollama.vip.cpolar

二、问题 1.构建容器失败

（1）问题

问题一

ARNING: The requested image's platform (linux/arm64) does not match the detected host platform (linux/amd64/v3) and no specific platform was requested

问题二

docker: Error response from daemon: failed to create task for container: failed to create shim task: OCI runtime create failed: runc create failed: unable to start container process: error during container init: exec: "-e": executable file not found in $PATH: unknown

（2）原因分析

问题一：镜像使用了arm平台，与当前系统不匹配；

问题二：尝试重启docker 内存不能分配问题解决

（2）解决方法

问题一：

删除旧镜像

重新下载linux/amd64 镜像并构建

问题二：

msg="stream copy error: reading from a closed fifo"

重启docker

成功：