[RFC] 063 - Agent Provider #4444
arvinxx
started this conversation in
RFC | 特性开发
Replies: 1 comment
-
很期待dify的原生接入,我现在就为了接入dify,得先dify2openai,再接入oneapi,oneapi再接入LobeChat,对历史上下文和文件支持也不好 |
Beta Was this translation helpful? Give feedback.
0 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
背景
model provider 的架构设计大获成功,在社区共同建设下,我们支持了 30+ 的 model providers。但单纯的 model 接入对于很多现有的平台来说还是不够的。例如用户可以 dify 上完成整个工作流的搭建和 agent 的配置,同时提供出来了完整的 api 接口。
同时 OpenAI assistant 系列接口也提供了完整的 agent 能力,诸多 provider 也提供了对标 OpenAI assistant api 的接入实现
于是我们开始思考,是否有可能将 model provider 的设计思路延续到 agent 上。让 LobeChat 除了切换 model,也支持使用不同来源的 agent 。以及在后续的功能中将这个特性发挥出来。
在这样的设计中,我们可以将 Dify/OpenAI/Coze 等平台理解为 Agent 的生产端,而 LobeChat 就可以作为 Agent 的统一消费端,进而提供最佳的 agent 对话体验。
设计思路
agent 和 model 最不一样的地方就是 agent 的方案是状态持久化的,无论是 OpenAI 的 assistant api 还是 dify/coze 的助手,数据都是存在这些平台方上。LobeChat 的助手也是有状态的,所以有状态的这些接口其实就不像model那样那么容易扩展。但能力会更加强,比如支持上传文件,可以保留历史消息记录等等。
实现路径
Beta Was this translation helpful? Give feedback.
All reactions