思源 AI 添加第三方免费大模型方法

目前思源的 AI 配置是 OpenAI 的通用调用方式,意味着任何兼容这种方式的第三方平台都可以正常使用。

配置

进入设置——AI,修改模型、API Key、API 基础地址三处,其他的默认即可,当然影响比较大的是温度值,按需修改。模型选择该平台中的你想要的模型(必须完整复制模型名称),密钥是自己在平台创建的,API 基础地址按该平台开发文档填,下面是使用 siliconflow 的例子,然后你就可以开心玩耍了。

878834213D8B4655BBC34CC547430F78.png

使用 AI:

A44BCA9A93CA468E9689DDD4C13BD800.png

第三方平台推荐

众所周知,支付、价格、网络是制约大家使用 OpenAI、Claude 等国外大模型的三大主要问题。非常不建议通过淘宝或者其他平台代付的方式进行使用,使用明细不清,跑路风险高。下面推荐一些比较靠谱的大模型平台:

国外平台

1.openrouter:国外模型超级多,疑似全球最大的模型聚合提供商。有少量免费模型可用,但是免费的有如下限制:

Free limit: If you are using a free model variant (with an ID ending in :free), then you will be limited to 20 requests per minute and 200 requests per day.(免费模型限制:20 次/分钟,200/天)

2.groq:目前完全免费,国外模型,模型较少。需要良好的网络环境。

国内平台

1.硅基流动:我首推,目前良心程度堪称 AI 行业的赛博活佛。支持免费模型,免费模型,免费模型。使用免费模型不消耗送的 2000 万 tokens,付费模型建议用 deepseek-ai/DeepSeek-V2.5。这是我的邀请链接:硅基流动

SiliconCloud 裂变活动火热开启,2000 万 Tokens 送不停!北京时间 2024 年 8 月 1 日凌晨 0 时起您每邀请一位好友成为 SiliconCloud 新用户,您与好友均可获赠 2000 万 Tokens(14 元平台配额)。邀请越多,奖励越多,畅享体验 SiliconCloud!

    1. 邀请好友赚 2000 万 Tokens:每成功邀请一位新用户,好友注册成功,您将获得 2000 万 Tokens;
    2. 注册即送 2000 万 Tokens:受邀好友作为新用户完成 SiliconCloud 账号注册,立刻获得 2000 万 Tokens。

模型列表:https://siliconflow.cn/zh-cn/pricing

免费文本对话模型供参考,分数来源 huggingface

Average ⬆️ IFEval BBH MATH Lvl 5 GPQA MUSR MMLU-PRO
Qwen/Qwen2.5-7B 24.7 33.74 35.81 17.15 9.96 14.14 37.39
Qwen/Qwen2-7B-Instruct 24.76 56.79 37.81 8.61 6.38 7.37 31.64
internlm/internlm2_5-7b-chat 30.46 61.4 57.67 8.31 10.63 14.35 30.42
meta-llama/Meta-Llama-3.1-8B-Instruct 27.91 78.56 29.89 17.6 2.35 8.41 30.68
THUDM/glm-4-9b-chat 10.97 0 25.21 0 8.5 8.06 24.07
28.86 74.36 42.14 0.23 14.77 9.74 31.95
google/gemma-2-9b-it
Qwen/Qwen2-72B-Instruct 42.49 79.89 57.48 35.12 16.33 17.17 48.92

2.其他:像 deepseek、智谱 AI、阿里云通义千问这些,一般新注册也会送你几千万 tokens 配额,但是一般有有效期,过期未用完就失效了,而且通常只支持的自家的模型,免费模型不一定有。

  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    21294 引用 • 83996 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...