generated from songquanpeng/gin-template
-
-
Notifications
You must be signed in to change notification settings - Fork 4.3k
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
[功能请求+BUG]上游有可能混用API类型和模型(本项目就是如此),因此建议可以指定渠道的API类型 #321
Labels
enhancement
New feature or request
Comments
确实哦,但是也只能通过模型名称来区分,因为不能改 API 的格式。 你有什么具体的想法吗? |
songquanpeng
added
enhancement
New feature or request
and removed
bug
Something isn't working
labels
Jul 24, 2023
目前你可以用模型映射功能作为 workaround |
细化渠道或者模型的定义。 可以手动指定使用的API类型就行。
个人拙见。 |
实际上是代码实现里apitype的问题,周末修复
…---Original---
From: ***@***.***>
Sent at: 2023年7月24日(Mon) Evening11:07
To: ***@***.***>;
Cc: ***@***.******@***.***>;
Subject: Re: [songquanpeng/one-api] [功能请求+BUG]上游有可能混用API类型和模型(本项目就是如此),因此建议可以指定渠道的API类型 (Issue #321)
确实哦,但是也只能通过模型名称来区分,因为不能改 API 的格式。
你有什么具体的想法吗?
细化渠道或者模型的定义。
可以手动指定使用的API类型就行。
渠道指定API类型:给渠道加个字段,表明渠道所使用的API类型,比如如果指定了OpenAI类型,那么这个渠道所有模型都将使用此。
模型指定API类型:同上
更进一步,如果后期OneAPI对外开放别的公司的API接口已兼容部分客户端,可能就要”路由“这个概念了,根据被请求的路径+模型名+数据包格式,确定上游的这三个因素(API类型)。 不成熟想法
个人拙见。
—
Reply to this email directly, view it on GitHub, or unsubscribe.
You are receiving this because you commented.Message ID: ***@***.***>
|
已修复,已推送 v0.5.1-alpha |
感谢 |
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
例行检查
问题描述
我的上游渠道使用 OpenAI 接口规范下的的
chat/completion
接口提供了Claude网页版模型,名为claude-2-web
。(上游为OhMyGPT)目前代码根据模型前缀判断了API类型。正常没问题,但只是上游可能会想这样混用API和模型。
one-api/controller/relay-text.go
Lines 88 to 89 in bc2f48b
目前通过OpenAI接口提供别的模型的不在少数,甚至本项目就是这样。
因此建议上游渠道可以指定API类型。
复现步骤
通过openai接口提供claude开头的自定义模型,即可复现。
The text was updated successfully, but these errors were encountered: