DeepSeekR132B本地部署实战

#DeepSeek#

DeepSeek是一款基于人工智能的智能助手，专为提升工作效率和信息获取能力而设计。它结合了自然语言处理、机器学习和大数据技术，能够快速理解用户需求并提供精准的答案或解决方案。

DeepSeek的核心功能 智能问答

 DeepSeek可以回答各种问题，无论是科技、历史、文化还是日常生活中的疑问，它都能快速给出清晰、准确的答案。

文档分析与总结

支持上传文档（如PDF、Word等），DeepSeek能快速提取关键信息，生成摘要，帮你节省阅读时间。

多语言翻译

支持多种语言的实时翻译，无论是文本还是对话，都能轻松应对。

编程与技术支持

提供代码编写、调试建议和技术问题解答，是程序员和开发者的好帮手。

个性化推荐

根据用户的使用习惯和兴趣，推荐相关内容或工具，提升学习和工作效率。

实时信息检索

能够联网搜索最新信息，确保提供的答案和资料是最新、最准确的。

 DeepSeek本地化部署

硬件配置

CPU：Intel(R) Core(TM) i9-14900KF GPU：NVIDIA GeForce RTX 4090 内存：64G DDR5 硬盘：4T PCIe

组件信息

Ollama 0.5.7 （ github /ollama/ollama/releases，最新版本0.5.11） DeepSeek：deepseek-r1:32b （ ollama /library/deepseek-r1:32b） Open Web-UI：0.5.12 （ github /open-webui/open-webui） 操作系统：windows 11

安装步骤

1、下载并安装Ollama

截至2025/2/16，Ollama最新版本0.5.11，可以在github网站下载

2、根据硬件条件，选择合适的DeepSeek版本：4090内存24G，所以选择32b版本（20G）

3、用管理员身份启动命令行，输入如下命令开始下载对应的DeepSeek模型包：

ollama run deepseek-r1:32b

下载完毕后，进入DeepSeek对话状态，此时可以使用命令行进行交互，或者输入命令“/bye”退出对话状态。

4、使用pip安装open web-ui

pip install open-webui

使用open-webui serve启动web-ui

open-webui serve

终端出现这个提示后，再用浏览器打开如下网址： http://localhost:8080 第一次运行时需要注册一个管理员的用户名和密码。随便输入即可。

 用管理员新打开一个命令行，输入下面命令启动 DeepSeek

ollama run deepseek-r1:32b

此时，就可以在浏览器中与DeepSeek进行对话：