思源可以使用本地的大模型吗

最近需要翻译一批非常隐私的内容,所以希望思源 + 本地用 ollama 部署的 deep seek 来完成。不知道在思源里可以接入本地的大模型吗?

  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    25231 引用 • 104050 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • EmptyLight

    我的理解是支持 OpenAI 调用方式就可以使用,集市里还有其他的插件可以增强 ai 功能,不知道有没有提供其他的调用方法

    1 回复
  • Mayrain
    作者

    好,感谢,OpenAI 的那种调用方法应该是 API 调用吧,和本地感觉不太一样?现在很多 AI agent 的壳都是只支持 API 的,确实是比较麻烦。我再研究一下,顺便蹲个大佬(

  • 只要是 OpenAI API 就支持,可以在链滴搜一下看看

  • dsy 1 赞同 1 评论 via macOS
    本地跑个 ollama 还挺费内存的,建议搞个在线服务,毕竟 ds 都这么便宜了…… https://github.com/deepseek-ai/awesome-deepseek-integration/blob/main/docs/Siyuan/README_cn.md ——sorry 没看到是隐私的内容
    dsy
  • ChayaSar

    我也蹲一个大佬来说说,我在本地部署了 deepseek-R1,想通过本地的 deepseek 直接和本地的思源笔记交互,让 AI 查笔记、记笔记。。。

  • veryzhh 1 1 赞同

    是的,Ollama 本地部署好 Deepseek-r1 后,按如下方式设置即可:

    image.png

    API 提供商:选 OpenAI

    超时时间:最好长一点,因为电脑会比较慢。尤其像我这样用 CPU 来拖的,真的就是拖拉机。

    模型名称:按 Ollama 装好模型后,在终端中输入 ollama list 查一下模型的名称即可,我下的明明是 7B,不知道为什么名称是:deepseek-r1:latest。

    image.png

    API 基础地址http://127.0.0.1:11434/v1,这个最关键,不能漏掉 /v1,我一开始漏了这个,就没成功。如果端口改了,就用你改的端口。

    API Key:这个随便输一串代码就行。

    其他的都随便输。

    image.png

    上图就是直接在思源中调用我笔记本上部署的 DS,前提是要先运行 Ollama(Ollama 默认是开机启动,不过我一向是关掉的)。这样设置的好处是,不用装 AnythingLLM 之类的第三方 app,不足是交互不方便。我是通过安装思源集市中的 F's 工具箱插件来解决,它内置一个 AI 对话框,还比较好用,当然它也可以直接接各种 AI 的 API,看自己的需要了。

    当然 AnythingLLM 能帮助我们建立自己的个人知识库,想装一个也是很方便的。

    补充:昨天装了 Cherry Studio,感觉更好用,而且没 AnythingLLM 那么臃肿。

    1 回复
    4 操作
    veryzhh 在 2025-02-09 13:16:21 更新了该回帖
    veryzhh 在 2025-02-09 13:14:57 更新了该回帖
    veryzhh 在 2025-02-07 01:07:26 更新了该回帖
    veryzhh 在 2025-02-07 01:04:34 更新了该回帖
  • Mayrain
    作者

    这是 ao 的,学到了!我还有一个问题,不过这个就是超出思源本身的问题了:你觉得本地部署的 ai 能力足够么?我这两天使用下来,感觉上其实能力真的远不如官网……

    TIP:用的是 14b 参数的 R1

    2 回复
  • 官网 671B,差太多了。。

  • 一般电脑的配置肯定不够。

    最近看了一些资料,不确定真假,(更正)R1 目测的大概规律是需要参数量数字约一倍的显存:

    • 7B 参数量,需要 6~8GB 的显存;
    • 14B 参数量,需要 11~16GB 的显存;
    • 满血版就不要想了,个人搞不了的。

    本地部署的智力肯定是不够的,差别非常明显,只能进行一些简单的、常规的推理,做不到 671B 满血版那种深度的,交织着各种“幻觉”概念、但在“幻觉”中又会时不时涌现出“创见”的推理。后者,本地部署是达不到的。

    我本地部署只是玩玩而已,想尝试一下喂一点“小料”给它,看看能不能弄个低智版的私有小知识库。

    真要用 Deepseek-R1 进行复杂推理,要么就等闲时用 Deep 本 Seek,要么用其他平台搭的 R1,比如硅基流动的。

    但不推荐去太野鸡的平台,提防被骗取个人隐私信息,现在假借 Deepseek 诈骗的越来越多了。

    6 操作
    veryzhh 在 2025-02-12 17:22:55 更新了该回帖
    veryzhh 在 2025-02-08 16:27:43 更新了该回帖
    veryzhh 在 2025-02-08 15:40:40 更新了该回帖
    veryzhh 在 2025-02-08 15:39:41 更新了该回帖 veryzhh 在 2025-02-08 15:39:03 更新了该回帖 veryzhh 在 2025-02-08 15:38:34 更新了该回帖
请输入回帖内容 ...

推荐标签 标签

  • OAuth

    OAuth 协议为用户资源的授权提供了一个安全的、开放而又简易的标准。与以往的授权方式不同之处是 oAuth 的授权不会使第三方触及到用户的帐号信息(如用户名与密码),即第三方无需使用用户的用户名与密码就可以申请获得该用户资源的授权,因此 oAuth 是安全的。oAuth 是 Open Authorization 的简写。

    36 引用 • 103 回帖 • 31 关注
  • 安全

    安全永远都不是一个小问题。

    203 引用 • 818 回帖 • 3 关注
  • Shell

    Shell 脚本与 Windows/Dos 下的批处理相似,也就是用各类命令预先放入到一个文件中,方便一次性执行的一个程序文件,主要是方便管理员进行设置或者管理用的。但是它比 Windows 下的批处理更强大,比用其他编程程序编辑的程序效率更高,因为它使用了 Linux/Unix 下的命令。

    124 引用 • 74 回帖 • 1 关注
  • 浅吟主题

    Jeffrey Chen 制作的思源笔记主题,项目仓库:https://github.com/TCOTC/Whisper

    1 引用 • 28 回帖
  • Typecho

    Typecho 是一款博客程序,它在 GPLv2 许可证下发行,基于 PHP 构建,可以运行在各种平台上,支持多种数据库(MySQL、PostgreSQL、SQLite)。

    12 引用 • 67 回帖 • 452 关注
  • JetBrains

    JetBrains 是一家捷克的软件开发公司,该公司位于捷克的布拉格,并在俄国的圣彼得堡及美国麻州波士顿都设有办公室,该公司最为人所熟知的产品是 Java 编程语言开发撰写时所用的集成开发环境:IntelliJ IDEA

    18 引用 • 54 回帖 • 4 关注
  • TGIF

    Thank God It's Friday! 感谢老天,总算到星期五啦!

    289 引用 • 4492 回帖 • 655 关注
  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3198 引用 • 8215 回帖
  • 微服务

    微服务架构是一种架构模式,它提倡将单一应用划分成一组小的服务。服务之间互相协调,互相配合,为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建,能够被独立的部署。

    96 引用 • 155 回帖 • 1 关注
  • NetBeans

    NetBeans 是一个始于 1997 年的 Xelfi 计划,本身是捷克布拉格查理大学的数学及物理学院的学生计划。此计划延伸而成立了一家公司进而发展这个商用版本的 NetBeans IDE,直到 1999 年 Sun 买下此公司。Sun 于次年(2000 年)六月将 NetBeans IDE 开源,直到现在 NetBeans 的社群依然持续增长。

    78 引用 • 102 回帖 • 701 关注
  • CAP

    CAP 指的是在一个分布式系统中, Consistency(一致性)、 Availability(可用性)、Partition tolerance(分区容错性),三者不可兼得。

    12 引用 • 5 回帖 • 635 关注
  • SOHO

    为成为自由职业者在家办公而努力吧!

    7 引用 • 55 回帖 • 3 关注
  • QQ

    1999 年 2 月腾讯正式推出“腾讯 QQ”,在线用户由 1999 年的 2 人(马化腾和张志东)到现在已经发展到上亿用户了,在线人数超过一亿,是目前使用最广泛的聊天软件之一。

    45 引用 • 557 回帖 • 2 关注
  • AWS
    11 引用 • 28 回帖 • 11 关注
  • 面试

    面试造航母,上班拧螺丝。多面试,少加班。

    325 引用 • 1395 回帖 • 1 关注
  • 创造

    你创造的作品可能会帮助到很多人,如果是开源项目的话就更赞了!

    184 引用 • 1015 回帖
  • 互联网

    互联网(Internet),又称网际网络,或音译因特网、英特网。互联网始于 1969 年美国的阿帕网,是网络与网络之间所串连成的庞大网络,这些网络以一组通用的协议相连,形成逻辑上的单一巨大国际网络。

    99 引用 • 367 回帖
  • 30Seconds

    📙 前端知识精选集,包含 HTML、CSS、JavaScript、React、Node、安全等方面,每天仅需 30 秒。

    • 精选常见面试题,帮助您准备下一次面试
    • 精选常见交互,帮助您拥有简洁酷炫的站点
    • 精选有用的 React 片段,帮助你获取最佳实践
    • 精选常见代码集,帮助您提高打码效率
    • 整理前端界的最新资讯,邀您一同探索新世界
    488 引用 • 384 回帖 • 10 关注
  • Lute

    Lute 是一款结构化的 Markdown 引擎,支持 Go 和 JavaScript。

    28 引用 • 197 回帖 • 33 关注
  • 博客

    记录并分享人生的经历。

    273 引用 • 2388 回帖
  • SendCloud

    SendCloud 由搜狐武汉研发中心孵化的项目,是致力于为开发者提供高质量的触发邮件服务的云端邮件发送平台,为开发者提供便利的 API 接口来调用服务,让邮件准确迅速到达用户收件箱并获得强大的追踪数据。

    2 引用 • 8 回帖 • 492 关注
  • flomo

    flomo 是新一代 「卡片笔记」 ,专注在碎片化时代,促进你的记录,帮你积累更多知识资产。

    6 引用 • 141 回帖 • 1 关注
  • CSDN

    CSDN (Chinese Software Developer Network) 创立于 1999 年,是中国的 IT 社区和服务平台,为中国的软件开发者和 IT 从业者提供知识传播、职业发展、软件开发等全生命周期服务,满足他们在职业发展中学习及共享知识和信息、建立职业发展社交圈、通过软件开发实现技术商业化等刚性需求。

    14 引用 • 155 回帖
  • Anytype
    3 引用 • 31 回帖 • 13 关注
  • B3log

    B3log 是一个开源组织,名字来源于“Bulletin Board Blog”缩写,目标是将独立博客与论坛结合,形成一种新的网络社区体验,详细请看 B3log 构思。目前 B3log 已经开源了多款产品:SymSoloVditor思源笔记

    1063 引用 • 3455 回帖 • 161 关注
  • LaTeX

    LaTeX(音译“拉泰赫”)是一种基于 ΤΕΧ 的排版系统,由美国计算机学家莱斯利·兰伯特(Leslie Lamport)在 20 世纪 80 年代初期开发,利用这种格式,即使使用者没有排版和程序设计的知识也可以充分发挥由 TeX 所提供的强大功能,能在几天,甚至几小时内生成很多具有书籍质量的印刷品。对于生成复杂表格和数学公式,这一点表现得尤为突出。因此它非常适用于生成高印刷质量的科技和数学类文档。

    12 引用 • 54 回帖 • 8 关注
  • Eclipse

    Eclipse 是一个开放源代码的、基于 Java 的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。

    76 引用 • 258 回帖 • 626 关注