Skip to content

Refactor the AI API access framework #9262

Closed
@88250

Description

Activity

added this to the backlog milestone on Sep 25, 2023
Zuoqiu-Yingyi

Zuoqiu-Yingyi commented on Sep 28, 2023

@Zuoqiu-Yingyi
Contributor

最好在使用时不再使用遮罩, 在执行一些用时较长的 AI 任务时难以多任务并行执行, 且无法进行其他内容的编辑

Lizhen0628

Lizhen0628 commented on Oct 4, 2023

@Lizhen0628

可以增加 temperature 和 n 等参数调节的能力

mohuishou

mohuishou commented on Oct 10, 2023

@mohuishou

感觉最好支持流式api实时显示生成结果,现在siyuan的ai功能基本没用就是等待太久了,会导致没有预期

Achuan-2

Achuan-2 commented on Oct 23, 2023

@Achuan-2
Member

其实笔记软件使用ai,我觉得最大的前景是向量化个人知识库,使用ChatGPT询问,打造个人的知识管家
见:https://github.com/langchain-ai/langchain
只是整合AI API,其实作用不大,目前市面上已经有这样的软件了,对话体验、保留历史对话记录、对话支持导出markdown、支持各种prompt,本身体验都已经很好了

Zuoqiu-Yingyi

Zuoqiu-Yingyi commented on Oct 23, 2023

@Zuoqiu-Yingyi
Contributor

只是整合AI API,其实作用不大,目前市面上已经有这样的软件了,对话体验、保留历史对话记录、对话支持导出markdown、支持各种prompt,本身体验都已经很好了

能直接在笔记里面用的话体验还是挺好的, 比如翻译下文档之类, 比粘贴来粘贴去方便不少

Lizhen0628

Lizhen0628 commented on Nov 2, 2023

@Lizhen0628

阿里通义千问的效果非常不错,建议支持。

ttimasdf

ttimasdf commented on Dec 12, 2023

@ttimasdf

其实笔记软件使用ai,我觉得最大的前景是向量化个人知识库,使用ChatGPT询问,打造个人的知识管家

之前开发者好像说过这个以后不在核心里实现,社区可以自己做插件……

但其实我也觉得只有引入embedding,嵌入LLM才有意义,AI 不知道笔记的上下文,光嵌入个api,使用体验不仅比不上chatgpt,甚至不如API套壳的webui(如Yidadaa/ChatGPT-Next-Web),生成索引用的embedding model调用次数和存储embedding的向量数据库存储额度,也可以计入年付订阅里,也可以通过pro feature让用户自建(🗄️ Vector databases - Embedchain)。

如果这个能进到年付订阅里,那我只能说:

image

dwinkler1

dwinkler1 commented on Jan 6, 2024

@dwinkler1

Possibly relevant here https://liuyun.io/article/1704494054801

I think it would be great if e.g. we could pick models from ollama directly. There are very good models out there small enough to run on newer consumer hardware.

Reference:

https://github.com/hinterdupfinger/obsidian-ollama

ghost

ghost commented on Jan 22, 2024

@ghost

新的提问回答可以不连续上文吗,目前应该是联系上文的
https://ld246.com/article/1703127711381/comment/1703138900607#comments

88250

88250 commented on Jan 22, 2024

@88250
Author

16 remaining items

frostime

frostime commented on Mar 20, 2024

@frostime
Contributor

考虑了下,AI 服务太多,仅靠我们对接的话不大现实,这个方面还是靠社区插件对接吧。

后续内核仅考虑对接兼容 OpenAI API 的模型(需要略微调整的,比如 Azure OpenAI),感谢各位理解和关注。

插件提供功能的话,是不是提供一套标准化接口比较好?否则一个插件有一个插件的实现方式,最后容易乱掉。

88250

88250 commented on Mar 20, 2024

@88250
MemberAuthor
heartacker

heartacker commented on Jun 26, 2024

@heartacker

openai限制非支持国家和地区的api调用

TCOTC

TCOTC commented on Jun 26, 2024

@TCOTC
Contributor

用代理或者转发

heartacker

heartacker commented on Jun 26, 2024

@heartacker

用代理或者转发

作为一个普通用户,用上AI 的心智投入和成本越来越高

TCOTC

TCOTC commented on Jun 26, 2024

@TCOTC
Contributor

用国内的

jaar23

jaar23 commented on Jun 28, 2024

@jaar23

除了openai 不支持国内以后,还有其他的支持吗?在国内有没有统一的API spec, 就好像OpenAI API spec那样?

TCOTC

TCOTC commented on Jun 28, 2024

@TCOTC
Contributor

国内的大模型多数都兼容 OpenAI 的格式,直接用就行了

X-49

X-49 commented on Aug 21, 2024

@X-49

How can I use Gemini in SiYuan? In Obsidian, it was enough for me to install the 'Smart Connections' plugin and specify my API key.

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

      Development

      No branches or pull requests

        Participants

        @88250@Vanessa219@heartacker@ttimasdf@mohuishou

        Issue actions

          Refactor the AI API access framework · Issue #9262 · siyuan-note/siyuan