手把手教你部署 DeepSeek 本地模型

本文目标:部署 DeepSeek 本地模型,并通过 Ollama 提供 API 支持,Chatbox 提供 UI 界面。
原则:不搞那些高深的玩法,让小白也能理解并真正的上手实践。

  • 1.下载 Ollama 并安装运行 DeepSeek
  • 2.下载 Chatbox 并配置为本地 DeepSeek
  • 3.无需联网也能和 DeepSeek 畅快聊天

ds

1.下载 Ollama 并安装运行 DeepSeek

从 Ollama 官方网站下载 Ollama:

进入 Ollama 官方网站后,可以看到 Ollama 已经支持 DeepSeek-R1 的部署:

图形用户界面, 应用程序 AI 生成的内容可能不正确。

点击 DeepSeek-R1 的链接可以看到有关 deepseek-r1 的详细介绍:

图形用户界面, 文本, 应用程序, 电子邮件 AI 生成的内容可能不正确。
目前 deepseek-r1 模型大小提供了 7 个选择:1.5b、7b、8b、14b、32b、70b、671b。
因为我笔记本的显卡配置较低,所以这里只能选择最小的 1.5b 模型来做演示:

config
你可以根据你的硬件情况选择,通常模型大小(参数量)越大,模型的理解和生成能力越强,但也会消耗更多的计算资源。

点击 Download 按钮下载符合自己平台的 Ollama:

我这里选择 macOS,点击下载。
下载文件大小不到 200M,文件名为:Ollama-darwin.zip。

解压后打开 Ollama 应用程序,提示:

图形用户界面, 文本, 应用程序, 聊天或短信 AI 生成的内容可能不正确。

图形用户界面, 应用程序 AI 生成的内容可能不正确。

点击 Install 安装 ollama。

图形用户界面, 应用程序 AI 生成的内容可能不正确。

按照提示,打开终端,使用 Command + Space 快捷键调用 terminal:
图片包含 图形用户界面 AI 生成的内容可能不正确。

这里 Ollama 默认给出的例子是下载/运行 llama3.2 大模型,
我们这里不使用这个 llama3.2 模型,直接下载/运行 deepseek,参数选择最小的 1.5b,在终端窗口运行下面命令:

ollama run deepseek-r1:1.5b

图片包含 文本 AI 生成的内容可能不正确。

jingyuzhao@jingyuzhao-mac \~ % ollama rundeepseek-r1:1.5b pulling manifest pulling manifest pulling manifest pulling manifest pulling manifest pulling manifest pulling aabd4debf0c8... 100%▕████████████████████████████████████████▏ 1.1 GB pulling 369ca498f347... 100%▕████████████████████████████████████████▏ 387 B pulling 6e4c38e1172f... 100%▕████████████████████████████████████████▏ 1.1 KB pulling f4d24e9138dd... 100%▕████████████████████████████████████████▏ 148 B pulling a85fe2a2e58e... 100%▕████████████████████████████████████████▏ 487 B verifying sha256 digest writing manifest success \>\>\> Send a message (/? for help)

这里就直接可以和 DeepSeek 对话了:

\>\>\> Hi! Who are you? \<think\> \</think\> Hi! I'm DeepSeek-R1, an artificialintelligence assistant created by DeepSeek. I'm at your service and would be delighted to assist you withany inquiries or tasks you may have. \>\>\> 你好,你是谁? \<think\> \</think\> 你好!我是 DeepSeek-R1,一个由深度求索公司开发的智能助手。我擅长通过思考来帮您解答复杂的数学,代码和 逻辑推理等理工类问题。 Feel free to ask me anythingyou'd like me to know! \>\>\> Send a message (/? for help)

2.下载 Chatbox 并配置为本地 DeepSeek

Chatbox 官方网站:

图形用户界面, 文本, 应用程序 AI 生成的内容可能不正确。

图形用户界面, 应用程序 AI 生成的内容可能不正确。

我这里还是 Intel-based 的 MAC,

下载的 Chatbox-1.9.7.dmg,大小 100M 多点,点击安装,按下面提示拖到 Applications 内:

图形用户界面, 应用程序 AI 生成的内容可能不正确。

图形用户界面, 文本, 应用程序 AI 生成的内容可能不正确。

图形用户界面, 应用程序 AI 生成的内容可能不正确。

注意,这里我故意选错成 DeepSeek API,这也是初学者经常会选错的,实际上,若选择这个你就找不到你本地的 DeepSeek 模型。

实际正确应该选择 OLLAMA API,然后就可以看到我们上一步安装好的 deepseek-r1:1.5b。

图形用户界面, 应用程序 AI 生成的内容可能不正确。

3.无需联网也能和 DeepSeek 畅快聊天

配置好 DeepSeek 本地模型之后,就可以实现在断网情况下自由问答了,比如,此刻我正在写这篇文章,于是就问他帮我想几个备选的标题:

我正在写一篇文章,我起的名字是“手把手教你部署 DeepSeek 本地模型”。请你帮我重新生成 10 个吸引眼球的标题供我选择。

图形用户界面, 文本, 应用程序, 电子邮件 AI 生成的内容可能不正确。

4.模型替换

安装模型(替换版本号)

ollama run deepseek-r1:1.5b

删除模型(替换版本号)

ollama rm deepseek-r1:1.5b

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...