思源可以使用本地的大模型吗

最近需要翻译一批非常隐私的内容,所以希望思源 + 本地用 ollama 部署的 deep seek 来完成。不知道在思源里可以接入本地的大模型吗?

  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    24800 引用 • 101998 回帖 • 1 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • EmptyLight

    我的理解是支持 OpenAI 调用方式就可以使用,集市里还有其他的插件可以增强 ai 功能,不知道有没有提供其他的调用方法

    1 回复
  • Mayrain
    作者

    好,感谢,OpenAI 的那种调用方法应该是 API 调用吧,和本地感觉不太一样?现在很多 AI agent 的壳都是只支持 API 的,确实是比较麻烦。我再研究一下,顺便蹲个大佬(

  • 只要是 OpenAI API 就支持,可以在链滴搜一下看看

  • dsy 1 赞同 1 评论
    本地跑个 ollama 还挺费内存的,建议搞个在线服务,毕竟 ds 都这么便宜了…… https://github.com/deepseek-ai/awesome-deepseek-integration/blob/main/docs/Siyuan/README_cn.md ——sorry 没看到是隐私的内容
    dsy
  • ChayaSar

    我也蹲一个大佬来说说,我在本地部署了 deepseek-R1,想通过本地的 deepseek 直接和本地的思源笔记交互,让 AI 查笔记、记笔记。。。

  • veryzhh 1 1 赞同

    是的,Ollama 本地部署好 Deepseek-r1 后,按如下方式设置即可:

    image.png

    API 提供商:选 OpenAI

    超时时间:最好长一点,因为电脑会比较慢。尤其像我这样用 CPU 来拖的,真的就是拖拉机。

    模型名称:按 Ollama 装好模型后,在终端中输入 ollama list 查一下模型的名称即可,我下的明明是 7B,不知道为什么名称是:deepseek-r1:latest。

    image.png

    API 基础地址http://127.0.0.1:11434/v1,这个最关键,不能漏掉 /v1,我一开始漏了这个,就没成功。如果端口改了,就用你改的端口。

    API Key:这个随便输一串代码就行。

    其他的都随便输。

    image.png

    上图就是直接在思源中调用我笔记本上部署的 DS,前提是要先运行 Ollama(Ollama 默认是开机启动,不过我一向是关掉的)。这样设置的好处是,不用装 AnythingLLM 之类的第三方 app,不足是交互不方便。我是通过安装思源集市中的 F's 工具箱插件来解决,它内置一个 AI 对话框,还比较好用,当然它也可以直接接各种 AI 的 API,看自己的需要了。

    当然 AnythingLLM 能帮助我们建立自己的个人知识库,想装一个也是很方便的。

    补充:昨天装了 Cherry Studio,感觉更好用,而且没 AnythingLLM 那么臃肿。

    1 回复
    4 操作
    veryzhh 在 2025-02-09 13:16:21 更新了该回帖
    veryzhh 在 2025-02-09 13:14:57 更新了该回帖
    veryzhh 在 2025-02-07 01:07:26 更新了该回帖
    veryzhh 在 2025-02-07 01:04:34 更新了该回帖
  • Mayrain
    作者

    这是 ao 的,学到了!我还有一个问题,不过这个就是超出思源本身的问题了:你觉得本地部署的 ai 能力足够么?我这两天使用下来,感觉上其实能力真的远不如官网……

    TIP:用的是 14b 参数的 R1

    2 回复
  • 官网 671B,差太多了。。

  • 一般电脑的配置肯定不够。

    最近看了一些资料,不确定真假,(更正)R1 目测的大概规律是需要参数量数字约一倍的显存:

    • 7B 参数量,需要 6~8GB 的显存;
    • 14B 参数量,需要 11~16GB 的显存;
    • 满血版就不要想了,个人搞不了的。

    本地部署的智力肯定是不够的,差别非常明显,只能进行一些简单的、常规的推理,做不到 671B 满血版那种深度的,交织着各种“幻觉”概念、但在“幻觉”中又会时不时涌现出“创见”的推理。后者,本地部署是达不到的。

    我本地部署只是玩玩而已,想尝试一下喂一点“小料”给它,看看能不能弄个低智版的私有小知识库。

    真要用 Deepseek-R1 进行复杂推理,要么就等闲时用 Deep 本 Seek,要么用其他平台搭的 R1,比如硅基流动的。

    但不推荐去太野鸡的平台,提防被骗取个人隐私信息,现在假借 Deepseek 诈骗的越来越多了。

    6 操作
    veryzhh 在 2025-02-12 17:22:55 更新了该回帖
    veryzhh 在 2025-02-08 16:27:43 更新了该回帖
    veryzhh 在 2025-02-08 15:40:40 更新了该回帖
    veryzhh 在 2025-02-08 15:39:41 更新了该回帖 veryzhh 在 2025-02-08 15:39:03 更新了该回帖 veryzhh 在 2025-02-08 15:38:34 更新了该回帖
请输入回帖内容 ...

推荐标签 标签

  • 小薇

    小薇是一个用 Java 写的 QQ 聊天机器人 Web 服务,可以用于社群互动。

    由于 Smart QQ 从 2019 年 1 月 1 日起停止服务,所以该项目也已经停止维护了!

    34 引用 • 467 回帖 • 760 关注
  • 脑图

    脑图又叫思维导图,是表达发散性思维的有效图形思维工具 ,它简单却又很有效,是一种实用性的思维工具。

    31 引用 • 96 回帖
  • Vim

    Vim 是类 UNIX 系统文本编辑器 Vi 的加强版本,加入了更多特性来帮助编辑源代码。Vim 的部分增强功能包括文件比较(vimdiff)、语法高亮、全面的帮助系统、本地脚本(Vimscript)和便于选择的可视化模式。

    29 引用 • 66 回帖
  • Solo

    Solo 是一款小而美的开源博客系统,专为程序员设计。Solo 有着非常活跃的社区,可将文章作为帖子推送到社区,来自社区的回帖将作为博客评论进行联动(具体细节请浏览 B3log 构思 - 分布式社区网络)。

    这是一种全新的网络社区体验,让热爱记录和分享的你不再感到孤单!

    1440 引用 • 10067 回帖 • 490 关注
  • Firefox

    Mozilla Firefox 中文俗称“火狐”(正式缩写为 Fx 或 fx,非正式缩写为 FF),是一个开源的网页浏览器,使用 Gecko 排版引擎,支持多种操作系统,如 Windows、OSX 及 Linux 等。

    7 引用 • 30 回帖 • 392 关注
  • 运维

    互联网运维工作,以服务为中心,以稳定、安全、高效为三个基本点,确保公司的互联网业务能够 7×24 小时为用户提供高质量的服务。

    151 引用 • 257 回帖 • 2 关注
  • JetBrains

    JetBrains 是一家捷克的软件开发公司,该公司位于捷克的布拉格,并在俄国的圣彼得堡及美国麻州波士顿都设有办公室,该公司最为人所熟知的产品是 Java 编程语言开发撰写时所用的集成开发环境:IntelliJ IDEA

    18 引用 • 54 回帖
  • 倾城之链
    23 引用 • 66 回帖 • 158 关注
  • Lute

    Lute 是一款结构化的 Markdown 引擎,支持 Go 和 JavaScript。

    28 引用 • 197 回帖 • 25 关注
  • SOHO

    为成为自由职业者在家办公而努力吧!

    7 引用 • 55 回帖 • 5 关注
  • GraphQL

    GraphQL 是一个用于 API 的查询语言,是一个使用基于类型系统来执行查询的服务端运行时(类型系统由你的数据定义)。GraphQL 并没有和任何特定数据库或者存储引擎绑定,而是依靠你现有的代码和数据支撑。

    4 引用 • 3 回帖 • 3 关注
  • 招聘

    哪里都缺人,哪里都不缺人。

    189 引用 • 1057 回帖
  • 禅道

    禅道是一款国产的开源项目管理软件,她的核心管理思想基于敏捷方法 scrum,内置了产品管理和项目管理,同时又根据国内研发现状补充了测试管理、计划管理、发布管理、文档管理、事务管理等功能,在一个软件中就可以将软件研发中的需求、任务、bug、用例、计划、发布等要素有序的跟踪管理起来,完整地覆盖了项目管理的核心流程。

    6 引用 • 15 回帖 • 35 关注
  • Access
    1 引用 • 3 回帖 • 6 关注
  • Excel
    31 引用 • 28 回帖
  • 心情

    心是产生任何想法的源泉,心本体会陷入到对自己本体不能理解的状态中,因为心能产生任何想法,不能分出对错,不能分出自己。

    59 引用 • 369 回帖 • 2 关注
  • Word
    13 引用 • 40 回帖
  • 爬虫

    网络爬虫(Spider、Crawler),是一种按照一定的规则,自动地抓取万维网信息的程序。

    106 引用 • 275 回帖
  • Shell

    Shell 脚本与 Windows/Dos 下的批处理相似,也就是用各类命令预先放入到一个文件中,方便一次性执行的一个程序文件,主要是方便管理员进行设置或者管理用的。但是它比 Windows 下的批处理更强大,比用其他编程程序编辑的程序效率更高,因为它使用了 Linux/Unix 下的命令。

    124 引用 • 74 回帖
  • JWT

    JWT(JSON Web Token)是一种用于双方之间传递信息的简洁的、安全的表述性声明规范。JWT 作为一个开放的标准(RFC 7519),定义了一种简洁的,自包含的方法用于通信双方之间以 JSON 的形式安全的传递信息。

    20 引用 • 15 回帖 • 19 关注
  • Anytype
    3 引用 • 31 回帖 • 12 关注
  • Ngui

    Ngui 是一个 GUI 的排版显示引擎和跨平台的 GUI 应用程序开发框架,基于
    Node.js / OpenGL。目标是在此基础上开发 GUI 应用程序可拥有开发 WEB 应用般简单与速度同时兼顾 Native 应用程序的性能与体验。

    7 引用 • 9 回帖 • 400 关注
  • Electron

    Electron 基于 Chromium 和 Node.js,让你可以使用 HTML、CSS 和 JavaScript 构建应用。它是一个由 GitHub 及众多贡献者组成的活跃社区共同维护的开源项目,兼容 Mac、Windows 和 Linux,它构建的应用可在这三个操作系统上面运行。

    15 引用 • 136 回帖 • 8 关注
  • ZooKeeper

    ZooKeeper 是一个分布式的,开放源码的分布式应用程序协调服务,是 Google 的 Chubby 一个开源的实现,是 Hadoop 和 HBase 的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

    59 引用 • 29 回帖 • 2 关注
  • Docker

    Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的操作系统上。容器完全使用沙箱机制,几乎没有性能开销,可以很容易地在机器和数据中心中运行。

    494 引用 • 928 回帖
  • WiFiDog

    WiFiDog 是一套开源的无线热点认证管理工具,主要功能包括:位置相关的内容递送;用户认证和授权;集中式网络监控。

    1 引用 • 7 回帖 • 609 关注
  • 区块链

    区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。所谓共识机制是区块链系统中实现不同节点之间建立信任、获取权益的数学算法 。

    92 引用 • 752 回帖 • 1 关注