思源可以使用本地的大模型吗

最近需要翻译一批非常隐私的内容,所以希望思源 + 本地用 ollama 部署的 deep seek 来完成。不知道在思源里可以接入本地的大模型吗?

  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    24517 引用 • 100326 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • EmptyLight

    我的理解是支持 OpenAI 调用方式就可以使用,集市里还有其他的插件可以增强 ai 功能,不知道有没有提供其他的调用方法

    1 回复
  • Mayrain
    作者

    好,感谢,OpenAI 的那种调用方法应该是 API 调用吧,和本地感觉不太一样?现在很多 AI agent 的壳都是只支持 API 的,确实是比较麻烦。我再研究一下,顺便蹲个大佬(

  • 只要是 OpenAI API 就支持,可以在链滴搜一下看看

  • dsy 1 赞同 1 评论 via macOS
    本地跑个 ollama 还挺费内存的,建议搞个在线服务,毕竟 ds 都这么便宜了…… https://github.com/deepseek-ai/awesome-deepseek-integration/blob/main/docs/Siyuan/README_cn.md ——sorry 没看到是隐私的内容
    dsy
  • ChayaSar

    我也蹲一个大佬来说说,我在本地部署了 deepseek-R1,想通过本地的 deepseek 直接和本地的思源笔记交互,让 AI 查笔记、记笔记。。。

  • veryzhh 1 1 赞同

    是的,Ollama 本地部署好 Deepseek-r1 后,按如下方式设置即可:

    image.png

    API 提供商:选 OpenAI

    超时时间:最好长一点,因为电脑会比较慢。尤其像我这样用 CPU 来拖的,真的就是拖拉机。

    模型名称:按 Ollama 装好模型后,在终端中输入 ollama list 查一下模型的名称即可,我下的明明是 7B,不知道为什么名称是:deepseek-r1:latest。

    image.png

    API 基础地址http://127.0.0.1:11434/v1,这个最关键,不能漏掉 /v1,我一开始漏了这个,就没成功。如果端口改了,就用你改的端口。

    API Key:这个随便输一串代码就行。

    其他的都随便输。

    image.png

    上图就是直接在思源中调用我笔记本上部署的 DS,前提是要先运行 Ollama(Ollama 默认是开机启动,不过我一向是关掉的)。这样设置的好处是,不用装 AnythingLLM 之类的第三方 app,不足是交互不方便。我是通过安装思源集市中的 F's 工具箱插件来解决,它内置一个 AI 对话框,还比较好用,当然它也可以直接接各种 AI 的 API,看自己的需要了。

    当然 AnythingLLM 能帮助我们建立自己的个人知识库,想装一个也是很方便的。

    补充:昨天装了 Cherry Studio,感觉更好用,而且没 AnythingLLM 那么臃肿。

    1 回复
    4 操作
    veryzhh 在 2025-02-09 13:16:21 更新了该回帖
    veryzhh 在 2025-02-09 13:14:57 更新了该回帖
    veryzhh 在 2025-02-07 01:07:26 更新了该回帖
    veryzhh 在 2025-02-07 01:04:34 更新了该回帖
  • Mayrain
    作者

    这是 ao 的,学到了!我还有一个问题,不过这个就是超出思源本身的问题了:你觉得本地部署的 ai 能力足够么?我这两天使用下来,感觉上其实能力真的远不如官网……

    TIP:用的是 14b 参数的 R1

    2 回复
  • 官网 671B,差太多了。。

  • 一般电脑的配置肯定不够。

    最近看了一些资料,不确定真假,(更正)R1 目测的大概规律是需要参数量数字约一倍的显存:

    • 7B 参数量,需要 6~8GB 的显存;
    • 14B 参数量,需要 11~16GB 的显存;
    • 满血版就不要想了,个人搞不了的。

    本地部署的智力肯定是不够的,差别非常明显,只能进行一些简单的、常规的推理,做不到 671B 满血版那种深度的,交织着各种“幻觉”概念、但在“幻觉”中又会时不时涌现出“创见”的推理。后者,本地部署是达不到的。

    我本地部署只是玩玩而已,想尝试一下喂一点“小料”给它,看看能不能弄个低智版的私有小知识库。

    真要用 Deepseek-R1 进行复杂推理,要么就等闲时用 Deep 本 Seek,要么用其他平台搭的 R1,比如硅基流动的。

    但不推荐去太野鸡的平台,提防被骗取个人隐私信息,现在假借 Deepseek 诈骗的越来越多了。

    6 操作
    veryzhh 在 2025-02-12 17:22:55 更新了该回帖
    veryzhh 在 2025-02-08 16:27:43 更新了该回帖
    veryzhh 在 2025-02-08 15:40:40 更新了该回帖
    veryzhh 在 2025-02-08 15:39:41 更新了该回帖 veryzhh 在 2025-02-08 15:39:03 更新了该回帖 veryzhh 在 2025-02-08 15:38:34 更新了该回帖
请输入回帖内容 ...

推荐标签 标签

  • 持续集成

    持续集成(Continuous Integration)是一种软件开发实践,即团队开发成员经常集成他们的工作,通过每个成员每天至少集成一次,也就意味着每天可能会发生多次集成。每次集成都通过自动化的构建(包括编译,发布,自动化测试)来验证,从而尽早地发现集成错误。

    15 引用 • 7 回帖
  • GitLab

    GitLab 是利用 Ruby 一个开源的版本管理系统,实现一个自托管的 Git 项目仓库,可通过 Web 界面操作公开或私有项目。

    46 引用 • 72 回帖
  • WiFiDog

    WiFiDog 是一套开源的无线热点认证管理工具,主要功能包括:位置相关的内容递送;用户认证和授权;集中式网络监控。

    1 引用 • 7 回帖 • 605 关注
  • C++

    C++ 是在 C 语言的基础上开发的一种通用编程语言,应用广泛。C++ 支持多种编程范式,面向对象编程、泛型编程和过程化编程。

    107 引用 • 153 回帖 • 1 关注
  • WebClipper

    Web Clipper 是一款浏览器剪藏扩展,它可以帮助你把网页内容剪藏到本地。

    3 引用 • 9 回帖 • 4 关注
  • Excel
    31 引用 • 28 回帖
  • Dubbo

    Dubbo 是一个分布式服务框架,致力于提供高性能和透明化的 RPC 远程服务调用方案,是 [阿里巴巴] SOA 服务化治理方案的核心框架,每天为 2,000+ 个服务提供 3,000,000,000+ 次访问量支持,并被广泛应用于阿里巴巴集团的各成员站点。

    60 引用 • 82 回帖 • 611 关注
  • 代码片段

    代码片段分为 CSS 与 JS 两种代码,添加在 [设置 - 外观 - 代码片段] 中,这些代码会在思源笔记加载时自动执行,用于改善笔记的样式或功能。

    用户在该标签下分享代码片段时需在帖子标题前添加 [css] [js] 用于区分代码片段类型。

    126 引用 • 847 回帖 • 1 关注
  • Vue.js

    Vue.js(读音 /vju ː/,类似于 view)是一个构建数据驱动的 Web 界面库。Vue.js 的目标是通过尽可能简单的 API 实现响应的数据绑定和组合的视图组件。

    267 引用 • 666 回帖
  • CSS

    CSS(Cascading Style Sheet)“层叠样式表”是用于控制网页样式并允许将样式信息与网页内容分离的一种标记性语言。

    198 引用 • 541 回帖
  • QQ

    1999 年 2 月腾讯正式推出“腾讯 QQ”,在线用户由 1999 年的 2 人(马化腾和张志东)到现在已经发展到上亿用户了,在线人数超过一亿,是目前使用最广泛的聊天软件之一。

    45 引用 • 557 回帖
  • webpack

    webpack 是一个用于前端开发的模块加载器和打包工具,它能把各种资源,例如 JS、CSS(less/sass)、图片等都作为模块来使用和处理。

    41 引用 • 130 回帖 • 252 关注
  • 快应用

    快应用 是基于手机硬件平台的新型应用形态;标准是由主流手机厂商组成的快应用联盟联合制定;快应用标准的诞生将在研发接口、能力接入、开发者服务等层面建设标准平台;以平台化的生态模式对个人开发者和企业开发者全品类开放。

    15 引用 • 127 回帖 • 1 关注
  • Word
    13 引用 • 40 回帖
  • Unity

    Unity 是由 Unity Technologies 开发的一个让开发者可以轻松创建诸如 2D、3D 多平台的综合型游戏开发工具,是一个全面整合的专业游戏引擎。

    25 引用 • 7 回帖 • 140 关注
  • 数据库

    据说 99% 的性能瓶颈都在数据库。

    345 引用 • 724 回帖
  • OneDrive
    2 引用
  • WebComponents

    Web Components 是 W3C 定义的标准,它给了前端开发者扩展浏览器标签的能力,可以方便地定制可复用组件,更好的进行模块化开发,解放了前端开发者的生产力。

    1 引用 • 10 关注
  • 学习

    “梦想从学习开始,事业从实践起步” —— 习近平

    171 引用 • 513 回帖
  • Thymeleaf

    Thymeleaf 是一款用于渲染 XML/XHTML/HTML5 内容的模板引擎。类似 Velocity、 FreeMarker 等,它也可以轻易的与 Spring 等 Web 框架进行集成作为 Web 应用的模板引擎。与其它模板引擎相比,Thymeleaf 最大的特点是能够直接在浏览器中打开并正确显示模板页面,而不需要启动整个 Web 应用。

    11 引用 • 19 回帖 • 381 关注
  • WebSocket

    WebSocket 是 HTML5 中定义的一种新协议,它实现了浏览器与服务器之间的全双工通信(full-duplex)。

    48 引用 • 206 回帖 • 299 关注
  • Node.js

    Node.js 是一个基于 Chrome JavaScript 运行时建立的平台, 用于方便地搭建响应速度快、易于扩展的网络应用。Node.js 使用事件驱动, 非阻塞 I/O 模型而得以轻量和高效。

    139 引用 • 269 回帖
  • Jenkins

    Jenkins 是一套开源的持续集成工具。它提供了非常丰富的插件,让构建、部署、自动化集成项目变得简单易用。

    54 引用 • 37 回帖 • 2 关注
  • SpaceVim

    SpaceVim 是一个社区驱动的模块化 vim/neovim 配置集合,以模块的方式组织管理插件以
    及相关配置,为不同的语言开发量身定制了相关的开发模块,该模块提供代码自动补全,
    语法检查、格式化、调试、REPL 等特性。用户仅需载入相关语言的模块即可得到一个开箱
    即用的 Vim-IDE。

    3 引用 • 31 回帖 • 116 关注
  • 外包

    有空闲时间是接外包好呢还是学习好呢?

    26 引用 • 233 回帖 • 2 关注
  • Tomcat

    Tomcat 最早是由 Sun Microsystems 开发的一个 Servlet 容器,在 1999 年被捐献给 ASF(Apache Software Foundation),隶属于 Jakarta 项目,现在已经独立为一个顶级项目。Tomcat 主要实现了 JavaEE 中的 Servlet、JSP 规范,同时也提供 HTTP 服务,是市场上非常流行的 Java Web 容器。

    162 引用 • 529 回帖 • 6 关注
  • JWT

    JWT(JSON Web Token)是一种用于双方之间传递信息的简洁的、安全的表述性声明规范。JWT 作为一个开放的标准(RFC 7519),定义了一种简洁的,自包含的方法用于通信双方之间以 JSON 的形式安全的传递信息。

    20 引用 • 15 回帖 • 18 关注