思源可以使用本地的大模型吗

最近需要翻译一批非常隐私的内容,所以希望思源 + 本地用 ollama 部署的 deep seek 来完成。不知道在思源里可以接入本地的大模型吗?

  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    26022 引用 • 107988 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • EmptyLight

    我的理解是支持 OpenAI 调用方式就可以使用,集市里还有其他的插件可以增强 ai 功能,不知道有没有提供其他的调用方法

    1 回复
  • Mayrain
    作者

    好,感谢,OpenAI 的那种调用方法应该是 API 调用吧,和本地感觉不太一样?现在很多 AI agent 的壳都是只支持 API 的,确实是比较麻烦。我再研究一下,顺便蹲个大佬(

  • 只要是 OpenAI API 就支持,可以在链滴搜一下看看

  • dsy 1 赞同 1 评论 via macOS
    本地跑个 ollama 还挺费内存的,建议搞个在线服务,毕竟 ds 都这么便宜了…… https://github.com/deepseek-ai/awesome-deepseek-integration/blob/main/docs/Siyuan/README_cn.md ——sorry 没看到是隐私的内容
    dsy
  • ChayaSar

    我也蹲一个大佬来说说,我在本地部署了 deepseek-R1,想通过本地的 deepseek 直接和本地的思源笔记交互,让 AI 查笔记、记笔记。。。

  • veryzhh 1 1 赞同

    是的,Ollama 本地部署好 Deepseek-r1 后,按如下方式设置即可:

    image.png

    API 提供商:选 OpenAI

    超时时间:最好长一点,因为电脑会比较慢。尤其像我这样用 CPU 来拖的,真的就是拖拉机。

    模型名称:按 Ollama 装好模型后,在终端中输入 ollama list 查一下模型的名称即可,我下的明明是 7B,不知道为什么名称是:deepseek-r1:latest。

    image.png

    API 基础地址http://127.0.0.1:11434/v1,这个最关键,不能漏掉 /v1,我一开始漏了这个,就没成功。如果端口改了,就用你改的端口。

    API Key:这个随便输一串代码就行。

    其他的都随便输。

    image.png

    上图就是直接在思源中调用我笔记本上部署的 DS,前提是要先运行 Ollama(Ollama 默认是开机启动,不过我一向是关掉的)。这样设置的好处是,不用装 AnythingLLM 之类的第三方 app,不足是交互不方便。我是通过安装思源集市中的 F's 工具箱插件来解决,它内置一个 AI 对话框,还比较好用,当然它也可以直接接各种 AI 的 API,看自己的需要了。

    当然 AnythingLLM 能帮助我们建立自己的个人知识库,想装一个也是很方便的。

    补充:昨天装了 Cherry Studio,感觉更好用,而且没 AnythingLLM 那么臃肿。

    1 回复
    4 操作
    veryzhh 在 2025-02-09 13:16:21 更新了该回帖
    veryzhh 在 2025-02-09 13:14:57 更新了该回帖
    veryzhh 在 2025-02-07 01:07:26 更新了该回帖
    veryzhh 在 2025-02-07 01:04:34 更新了该回帖
  • Mayrain
    作者

    这是 ao 的,学到了!我还有一个问题,不过这个就是超出思源本身的问题了:你觉得本地部署的 ai 能力足够么?我这两天使用下来,感觉上其实能力真的远不如官网……

    TIP:用的是 14b 参数的 R1

    2 回复
  • 官网 671B,差太多了。。

  • 一般电脑的配置肯定不够。

    最近看了一些资料,不确定真假,(更正)R1 目测的大概规律是需要参数量数字约一倍的显存:

    • 7B 参数量,需要 6~8GB 的显存;
    • 14B 参数量,需要 11~16GB 的显存;
    • 满血版就不要想了,个人搞不了的。

    本地部署的智力肯定是不够的,差别非常明显,只能进行一些简单的、常规的推理,做不到 671B 满血版那种深度的,交织着各种“幻觉”概念、但在“幻觉”中又会时不时涌现出“创见”的推理。后者,本地部署是达不到的。

    我本地部署只是玩玩而已,想尝试一下喂一点“小料”给它,看看能不能弄个低智版的私有小知识库。

    真要用 Deepseek-R1 进行复杂推理,要么就等闲时用 Deep 本 Seek,要么用其他平台搭的 R1,比如硅基流动的。

    但不推荐去太野鸡的平台,提防被骗取个人隐私信息,现在假借 Deepseek 诈骗的越来越多了。

    6 操作
    veryzhh 在 2025-02-12 17:22:55 更新了该回帖
    veryzhh 在 2025-02-08 16:27:43 更新了该回帖
    veryzhh 在 2025-02-08 15:40:40 更新了该回帖
    veryzhh 在 2025-02-08 15:39:41 更新了该回帖 veryzhh 在 2025-02-08 15:39:03 更新了该回帖 veryzhh 在 2025-02-08 15:38:34 更新了该回帖
请输入回帖内容 ...

推荐标签 标签

  • 持续集成

    持续集成(Continuous Integration)是一种软件开发实践,即团队开发成员经常集成他们的工作,通过每个成员每天至少集成一次,也就意味着每天可能会发生多次集成。每次集成都通过自动化的构建(包括编译,发布,自动化测试)来验证,从而尽早地发现集成错误。

    15 引用 • 7 回帖
  • Scala

    Scala 是一门多范式的编程语言,集成面向对象编程和函数式编程的各种特性。

    13 引用 • 11 回帖 • 159 关注
  • Electron

    Electron 基于 Chromium 和 Node.js,让你可以使用 HTML、CSS 和 JavaScript 构建应用。它是一个由 GitHub 及众多贡献者组成的活跃社区共同维护的开源项目,兼容 Mac、Windows 和 Linux,它构建的应用可在这三个操作系统上面运行。

    15 引用 • 136 回帖
  • Thymeleaf

    Thymeleaf 是一款用于渲染 XML/XHTML/HTML5 内容的模板引擎。类似 Velocity、 FreeMarker 等,它也可以轻易的与 Spring 等 Web 框架进行集成作为 Web 应用的模板引擎。与其它模板引擎相比,Thymeleaf 最大的特点是能够直接在浏览器中打开并正确显示模板页面,而不需要启动整个 Web 应用。

    11 引用 • 19 回帖 • 395 关注
  • 旅游

    希望你我能在旅途中找到人生的下一站。

    98 引用 • 903 回帖
  • IDEA

    IDEA 全称 IntelliJ IDEA,是一款 Java 语言开发的集成环境,在业界被公认为最好的 Java 开发工具之一。IDEA 是 JetBrains 公司的产品,这家公司总部位于捷克共和国的首都布拉格,开发人员以严谨著称的东欧程序员为主。

    181 引用 • 400 回帖 • 2 关注
  • Ruby

    Ruby 是一种开源的面向对象程序设计的服务器端脚本语言,在 20 世纪 90 年代中期由日本的松本行弘(まつもとゆきひろ/Yukihiro Matsumoto)设计并开发。在 Ruby 社区,松本也被称为马茨(Matz)。

    7 引用 • 31 回帖 • 260 关注
  • ReactiveX

    ReactiveX 是一个专注于异步编程与控制可观察数据(或者事件)流的 API。它组合了观察者模式,迭代器模式和函数式编程的优秀思想。

    1 引用 • 2 回帖 • 182 关注
  • OkHttp

    OkHttp 是一款 HTTP & HTTP/2 客户端库,专为 Android 和 Java 应用打造。

    16 引用 • 6 回帖 • 93 关注
  • Telegram

    Telegram 是一个非盈利性、基于云端的即时消息服务。它提供了支持各大操作系统平台的开源的客户端,也提供了很多强大的 APIs 给开发者创建自己的客户端和机器人。

    5 引用 • 35 回帖
  • HBase

    HBase 是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的 Google 论文 “Bigtable:一个结构化数据的分布式存储系统”。就像 Bigtable 利用了 Google 文件系统所提供的分布式数据存储一样,HBase 在 Hadoop 之上提供了类似于 Bigtable 的能力。

    17 引用 • 6 回帖 • 66 关注
  • VirtualBox

    VirtualBox 是一款开源虚拟机软件,最早由德国 Innotek 公司开发,由 Sun Microsystems 公司出品的软件,使用 Qt 编写,在 Sun 被 Oracle 收购后正式更名成 Oracle VM VirtualBox。

    10 引用 • 2 回帖 • 16 关注
  • 资讯

    资讯是用户因为及时地获得它并利用它而能够在相对短的时间内给自己带来价值的信息,资讯有时效性和地域性。

    56 引用 • 85 回帖
  • SSL

    SSL(Secure Sockets Layer 安全套接层),及其继任者传输层安全(Transport Layer Security,TLS)是为网络通信提供安全及数据完整性的一种安全协议。TLS 与 SSL 在传输层对网络连接进行加密。

    70 引用 • 193 回帖 • 414 关注
  • Swift

    Swift 是苹果于 2014 年 WWDC(苹果开发者大会)发布的开发语言,可与 Objective-C 共同运行于 Mac OS 和 iOS 平台,用于搭建基于苹果平台的应用程序。

    34 引用 • 37 回帖 • 554 关注
  • Vditor

    Vditor 是一款浏览器端的 Markdown 编辑器,支持所见即所得、即时渲染(类似 Typora)和分屏预览模式。它使用 TypeScript 实现,支持原生 JavaScript、Vue、React 和 Angular。

    371 引用 • 1857 回帖 • 2 关注
  • DevOps

    DevOps(Development 和 Operations 的组合词)是一组过程、方法与系统的统称,用于促进开发(应用程序/软件工程)、技术运营和质量保障(QA)部门之间的沟通、协作与整合。

    59 引用 • 25 回帖
  • Shell

    Shell 脚本与 Windows/Dos 下的批处理相似,也就是用各类命令预先放入到一个文件中,方便一次性执行的一个程序文件,主要是方便管理员进行设置或者管理用的。但是它比 Windows 下的批处理更强大,比用其他编程程序编辑的程序效率更高,因为它使用了 Linux/Unix 下的命令。

    125 引用 • 74 回帖 • 1 关注
  • 服务器

    服务器,也称伺服器,是提供计算服务的设备。由于服务器需要响应服务请求,并进行处理,因此一般来说服务器应具备承担服务并且保障服务的能力。

    125 引用 • 585 回帖 • 1 关注
  • OpenStack

    OpenStack 是一个云操作系统,通过数据中心可控制大型的计算、存储、网络等资源池。所有的管理通过前端界面管理员就可以完成,同样也可以通过 Web 接口让最终用户部署资源。

    10 引用 • 1 关注
  • WordPress

    WordPress 是一个使用 PHP 语言开发的博客平台,用户可以在支持 PHP 和 MySQL 数据库的服务器上架设自己的博客。也可以把 WordPress 当作一个内容管理系统(CMS)来使用。WordPress 是一个免费的开源项目,在 GNU 通用公共许可证(GPLv2)下授权发布。

    45 引用 • 114 回帖 • 172 关注
  • Follow
    4 引用 • 12 回帖 • 1 关注
  • 导航

    各种网址链接、内容导航。

    45 引用 • 177 回帖
  • Q&A

    提问之前请先看《提问的智慧》,好的问题比好的答案更有价值。

    9998 引用 • 45434 回帖 • 74 关注
  • Caddy

    Caddy 是一款默认自动启用 HTTPS 的 HTTP/2 Web 服务器。

    10 引用 • 54 回帖 • 177 关注
  • ngrok

    ngrok 是一个反向代理,通过在公共的端点和本地运行的 Web 服务器之间建立一个安全的通道。

    7 引用 • 63 回帖 • 654 关注
  • Python

    Python 是一种面向对象、直译式电脑编程语言,具有近二十年的发展历史,成熟且稳定。它包含了一组完善而且容易理解的标准库,能够轻松完成很多常见的任务。它的语法简捷和清晰,尽量使用无异义的英语单词,与其它大多数程序设计语言使用大括号不一样,它使用缩进来定义语句块。

    554 引用 • 675 回帖