-
-
Notifications
You must be signed in to change notification settings - Fork 2.1k
Refactor the AI API access framework #9262
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
Comments
最好在使用时不再使用遮罩, 在执行一些用时较长的 AI 任务时难以多任务并行执行, 且无法进行其他内容的编辑 |
可以增加 temperature 和 n 等参数调节的能力 |
感觉最好支持流式api实时显示生成结果,现在siyuan的ai功能基本没用就是等待太久了,会导致没有预期 |
其实笔记软件使用ai,我觉得最大的前景是向量化个人知识库,使用ChatGPT询问,打造个人的知识管家 |
能直接在笔记里面用的话体验还是挺好的, 比如翻译下文档之类, 比粘贴来粘贴去方便不少 |
阿里通义千问的效果非常不错,建议支持。 |
之前开发者好像说过这个以后不在核心里实现,社区可以自己做插件…… 但其实我也觉得只有引入embedding,嵌入LLM才有意义,AI 不知道笔记的上下文,光嵌入个api,使用体验不仅比不上chatgpt,甚至不如API套壳的webui(如Yidadaa/ChatGPT-Next-Web),生成索引用的embedding model调用次数和存储embedding的向量数据库存储额度,也可以计入年付订阅里,也可以通过pro feature让用户自建(🗄️ Vector databases - Embedchain)。 如果这个能进到年付订阅里,那我只能说: |
Possibly relevant here https://liuyun.io/article/1704494054801 I think it would be great if e.g. we could pick models from ollama directly. There are very good models out there small enough to run on newer consumer hardware. Reference: |
新的提问回答可以不连续上文吗,目前应该是联系上文的 |
This comment was marked as outdated.
This comment was marked as outdated.
@Benjamin-Watson0 在 #10255 中加入一个菜单操作“清空上下文”。 |
好滴(●'◡'●) |
Possible inspiration https://github.com/reorproject/reor |
google gemini #10104 |
@88250 |
考虑了下,AI 服务太多,仅靠我们对接的话不大现实,这个方面还是靠社区插件对接吧。 后续内核仅考虑对接兼容 OpenAI API 的模型(需要略微调整的,比如 Azure OpenAI),感谢各位理解和关注。 |
插件提供功能的话,是不是提供一套标准化接口比较好?否则一个插件有一个插件的实现方式,最后容易乱掉。 |
AI 参数和能力各异,提供规范可能不大现实。
…---Original---
From: ***@***.***>
Date: Wed, Mar 20, 2024 18:06 PM
To: ***@***.***>;
Cc: ***@***.***>;"State ***@***.***>;
Subject: Re: [siyuan-note/siyuan] Refactor the AI API access framework (Issue#9262)
考虑了下,AI 服务太多,仅靠我们对接的话不大现实,这个方面还是靠社区插件对接吧。
后续内核仅考虑对接兼容 OpenAI API 的模型(需要略微调整的,比如 Azure OpenAI),感谢各位理解和关注。
插件提供功能的话,是不是提供一套标准化接口比较好?否则一个插件有一个插件的实现方式,最后容易乱掉。
—
Reply to this email directly, view it on GitHub, or unsubscribe.
You are receiving this because you modified the open/close state.Message ID: ***@***.***>
|
openai限制非支持国家和地区的api调用 |
用代理或者转发 |
作为一个普通用户,用上AI 的心智投入和成本越来越高 |
用国内的 |
除了openai 不支持国内以后,还有其他的支持吗?在国内有没有统一的API spec, 就好像OpenAI API spec那样? |
国内的大模型多数都兼容 OpenAI 的格式,直接用就行了 |
How can I use Gemini in SiYuan? In Obsidian, it was enough for me to install the 'Smart Connections' plugin and specify my API key. |
Extract common interfaces to enable access to different API implementations.
The text was updated successfully, but these errors were encountered: