Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[ 定价错误 ] 3.5-turbo 和 3.5-turbo-16k 的 输出定价 错误 ! #968

Closed
bbb3n opened this issue Jan 26, 2024 · 10 comments
Closed
Labels
bug Something isn't working

Comments

@bbb3n
Copy link

bbb3n commented Jan 26, 2024

例行检查

  • [x ] 我已确认目前没有类似 issue
  • [ x] 我已确认我已升级到最新版本
  • [ x] 我已完整查看过项目 README,尤其是常见问题部分
  • [ x] 我理解并愿意跟进此 issue,协助测试和提供反馈
  • [x ] 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭

问题描述
我看代码时,注意到您写了这么一段

Screenshot_20240126_084832

我不理解为什么你要在这个 时间点 改成 2 倍

这样算下来:

gpt-3.5-turbo 输入价格 0.0015 输出价格 0.0030

但实际上:

gpt-3.5-turbo 输入价格 0.0015 输出价格 0.0020

Screenshot_20240126_084749
image

我也注意到你在代码里贴了一个链接

https://platform.openai.com/docs/models/continuous-model-upgrades

但我看了这整个文章,也没看到 OpenAI 说要涨价的事情

那这到底是为什么呢?

@bbb3n bbb3n added the bug Something isn't working label Jan 26, 2024
@songquanpeng
Copy link
Owner

image
#696

@songquanpeng
Copy link
Owner

songquanpeng commented Jan 28, 2024

首先你要知道的是这种不带版本号的模型实际上是会被 OpenAI 动态替换的,随着 OpenAI 更新,其背后实际的模型会逐渐发生变化,我记得是因为在这个时间点之后其背后的模型倍率发生了变化,所以 @dirname 提了这个 PR,当然我做了一定的修改,但是效果是一致的。

@songquanpeng
Copy link
Owner

image

@bbb3n
Copy link
Author

bbb3n commented Jan 28, 2024

首先你要知道的是这种不带版本号的模型实际上是会被 OpenAI 动态替换的,随着 OpenAI 更新,其背后实际的模型会逐渐发生变化,我记得是因为在这个时间点之后其背后的模型倍率发生了变化,所以 @dirname 提了这个 PR,当然我做了一定的修改,但是效果是一致的。

刚才评论表述有问题,请看最下面的

1 similar comment
@bbb3n
Copy link
Author

bbb3n commented Jan 28, 2024

首先你要知道的是这种不带版本号的模型实际上是会被 OpenAI 动态替换的,随着 OpenAI 更新,其背后实际的模型会逐渐发生变化,我记得是因为在这个时间点之后其背后的模型倍率发生了变化,所以 @dirname 提了这个 PR,当然我做了一定的修改,但是效果是一致的。

刚才评论表述有问题,请看最下面的

@bbb3n
Copy link
Author

bbb3n commented Jan 28, 2024

image #696

原始pr的第二个链接 model update,也写明了那是指向 0613 ,而不是 1106。什么时候指向1106,官方还未明确表示吧?

包括todo后面的那个链接,也只是官方说会指向最新的,但是没有定时间。
他这个2023.12.11这个时间点是怎么得出的,我就觉得很奇怪。难道官方之前写了预测时间,然后删了?

事实也证明,现在还是 0613
Screenshot_20240128_160835

Screenshot_20240128_160942

@bbb3n
Copy link
Author

bbb3n commented Jan 28, 2024

另外,希望您今天能更新一下 gpt-3.5-turbo-0125的定价规则和倍率规则。以免下周内 OpenAI 上新后更新不及时

https://openai.com/blog/new-embedding-models-and-api-updates

Screenshot_20240128_161431

@dirname
Copy link
Collaborator

dirname commented Jan 28, 2024

image #696

原始pr的第二个链接 model update,也写明了那是指向 0613 ,而不是 1106。什么时候指向1106,官方还未明确表示吧?

包括todo后面的那个链接,也只是官方说会指向最新的,但是没有定时间。 他这个2023.12.11这个时间点是怎么得出的,我就觉得很奇怪。难道官方之前写了预测时间,然后删了?

事实也证明,现在还是 0613 Screenshot_20240128_160835

Screenshot_20240128_160942

实际上就是你想的这样,后面 OpenAI 更新了文档,在 PR 合并前后的一段时间内,文档中表明了具体的时间。我尝试在 web.archive.org 查看快照,但可能由于 WAF 或其他原因,无法预览具体内容。另外,我找到了以下相关的信息

https://community.openai.com/t/gpt-3-5-4-model-documentation-nov-7-2023-still-has-inaccuracies-about-snapshots/462172

从上可得知,文档的更新时间是 2023-11-07,当时文档中包含了具体的时间。另附,review 时的截图

20240128162801

@bbb3n
Copy link
Author

bbb3n commented Jan 28, 2024

image #696

原始pr的第二个链接 model update,也写明了那是指向 0613 ,而不是 1106。什么时候指向1106,官方还未明确表示吧?
包括todo后面的那个链接,也只是官方说会指向最新的,但是没有定时间。 他这个2023.12.11这个时间点是怎么得出的,我就觉得很奇怪。难道官方之前写了预测时间,然后删了?
事实也证明,现在还是 0613 Screenshot_20240128_160835
Screenshot_20240128_160942

实际上就是你想的这样,后面 OpenAI 更新了文档,在 PR 合并前后的一段时间内,文档中表明了具体的时间。我尝试在 web.archive.org 查看快照,但可能由于 WAF 或其他原因,无法预览具体内容。另外,我找到了以下相关的信息

https://community.openai.com/t/gpt-3-5-4-model-documentation-nov-7-2023-still-has-inaccuracies-about-snapshots/462172

从上可得知,文档的更新时间是 2023-11-07,当时文档中包含了具体的时间。另附,review 时的截图

20240128162801

嗯嗯,还是 OpenAI 太坏了。
但其实最关键的是,只改了中间倍率为 2 ,并没有修改 input 基础价格。
实际算下来是 0.0015input 0.003output
这也是我为啥第一时间想着,是 OpenAI 涨价了?后来发现其实是你们觉得他指向了1106

不过期待作者的自定义倍率功能,这样可以一劳永逸的解决这个问题。

@songquanpeng
Copy link
Owner

已经支持了自定义补全比例,在运营设置里:
image

techotaku pushed a commit to techotaku/one-api that referenced this issue Feb 3, 2024
greeeds pushed a commit to greeeds/one-api that referenced this issue Mar 3, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
bug Something isn't working
Projects
None yet
Development

No branches or pull requests

3 participants