title | description | tags | |||||
---|---|---|---|---|---|---|---|
LobeChat 模型服务商相关环境变量配置指南 |
了解如何配置各个模型服务商的环境变量以在 LobeChat 中使用不同的AI模型服务。 |
|
LobeChat 在部署时提供了丰富的模型服务商相关的环境变量,你可以使用这些环境变量轻松定义需要在 LobeChat 中开启的模型服务商。
- 类型:可选
- 描述:默认启用 OpenAI 作为模型供应商,当设为 0 时关闭 OpenAI 服务
- 默认值:
1
- 示例:
0
- 类型:必选
- 描述:这是你在 OpenAI 账户页面申请的 API 密钥,可以前往 这里 查看
- 默认值:-
- 示例:
sk-xxxxxx...xxxxxx
- 类型:可选
- 描述:如果你手动配置了 OpenAI 接口代理,可以使用此配置项来覆盖默认的 OpenAI API 请求基础 URL
- 默认值:
https://api.openai.com/v1
- 示例:
https://api.chatanywhere.cn
或https://aihubmix.com/v1
<Callout type={'warning'}>
请检查你的代理服务商的请求后缀,有的代理服务商会在请求后缀添加
/v1
,有的则不会。如果你在测试时发现 AI 返回的消息为空,请尝试添加 /v1
后缀后重试。
<Callout type={'info'}>
是否填写 /v1
跟模型服务商有很大关系,比如 openai 的默认地址是 api.openai.com/v1
。如果你的代理商转发了 /v1
这个接口,那么直接填 proxy.com
即可。 但如果模型服务商是直接转发了
api.openai.com
域名,那么你就要自己加上 /v1
这个 url。
相关讨论:
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
+qwen-7b-chat,+glm-6b,-gpt-3.5-turbo,gpt-4-0125-preview=gpt-4-turbo
上面示例表示增加 qwen-7b-chat
和 glm-6b
到模型列表,而从列表中删除 gpt-3.5-turbo
,并将 gpt-4-0125-preview
模型名字展示为 gpt-4-turbo
。如果你想先禁用所有模型,再启用指定模型,可以使用 -all,+gpt-3.5-turbo
,则表示仅启用 gpt-3.5-turbo
。
你可以在 modelProviders 查找到当前的所有模型名。
如果你需要使用 Azure OpenAI 来提供模型服务,可以查阅 使用 Azure OpenAI 部署 章节查看详细步骤,这里将列举和 Azure OpenAI 相关的环境变量。
- 类型:必选
- 描述:这是你在 Azure OpenAI 账户页面申请的 API 密钥
- 默认值:-
- 示例:
c55168be3874490ef0565d9779ecd5a6
- 类型:必选
- 描述:Azure API 地址,从 Azure 门户检查资源时,可在 “密钥和终结点” 部分中找到此值
- 默认值:
-
- 示例:
https://docs-test-001.openai.azure.com
- 类型:必选
- 描述:Azure 的 API 版本,遵循 YYYY-MM-DD 格式
- 默认值:
-
- 示例:
2024-02-01
,查阅 最新版本
- 类型:必选
- 描述:用来控制模型列表,使用
模型名->部署名=展示名
来自定义模型的展示名,用英文逗号隔开。支持扩展能力,其余语法规则详见 模型列表 - 默认值:
-
- 示例:
gpt-35-turbo->my-deploy=GPT 3.5 Turbo
或gpt-4-turbo->my-gpt4=GPT 4 Turbo<128000:vision:fc>
- 类型:必选
- 描述:这是你在 Google AI Platform 申请的 API 密钥,用于访问 Google AI 服务
- 默认值:-
- 示例:
AIraDyDwcw254kwJaGjI9wwaHcdDCS__Vt3xQE
- 类型:可选
- 描述:如果你手动配置了 Google 接口代理,可以使用此配置项来覆盖默认的 Google API 请求基础 URL
- 默认值:
https://generativelanguage.googleapis.com
- 示例:
https://api.genai.gd.edu.kg/google
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+gemini-1.5-flash-latest,+gemini-1.5-pro-latest
- 类型:必选
- 描述:这是你在 Anthropic AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
sk-ant-apixx-xxxxxxxxx-xxxxxxxxxxxxxxxxx-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx-xxxxxxxx
- 类型:可选
- 描述:如果你手动配置了 Anthropic 接口代理,可以使用此配置项来覆盖默认的 Anthropic API 请求基础 URL
- 默认值:
https://api.anthropic.com
- 示例:
https://my-anthropic-proxy.com
- 类型:可选
- 描述:当设为 1 时启用 AWS Bedrock 服务
- 默认值:
0
- 示例:
1
- 类型:必选
- 描述:用于 AWS 服务认证的访问键 ID
- 默认值:-
- 示例:
AKIA5STVRLFSB4S9HWBR
- 类型:必选
- 描述:用于 AWS 服务认证的密钥
- 默认值:-
- 示例:
Th3vXxLYpuKcv2BARktPSTPxx+jbSiFT6/0w7oEC
- 类型:可选
- 描述:AWS 服务的区域设置
- 默认值:
us-east-1
- 示例:
us-east-1
- 类型:必选
- 描述:这是你在 DeepSeek AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
sk-xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 OpenRouter AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
sk-or-v1-xxxxxx...xxxxxx=
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+01-ai/yi-34b-chat,+huggingfaceh4/zephyr-7b-beta
- 类型:必选
- 描述:这是你在 Github 申请的 Personal access tokens
- 默认值:-
- 示例:
ghp_xxxxxx...xxxxxx=
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+gpt-4o,+gpt-4o-mini
- 类型:必选
- 描述:这是你在 TogetherAI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo,+meta-llama/Meta-Llama-3.1-70B-Instruct-Turbo
- 类型:必选
- 描述:这是你在 Fireworks AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+accounts/fireworks/models/firefunction-v2,+accounts/fireworks/models/firefunction-v1
- 类型:可选
- 描述:默认启用 Ollama 作为模型供应商,当设为 0 时关闭 Ollama 服务
- 默认值:
1
- 示例:
0
- 类型:必选
- 描述:用于启用 Ollama 服务,设置后可在语言模型列表内展示可选开源语言模型,也可以指定自定义语言模型
- 默认值:-
- 示例:
http://127.0.0.1:11434
- 类型:可选
- 描述:用于指定自定义 Ollama 语言模型。模型定义语法规则见 模型列表
- 默认值:-
- 示例:
qwen:32B
- 类型:必选
- 描述:这是你在 Moonshot AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
Y2xpdGhpMzNhZXNoYjVtdnZjMWc6bXNrLWIxQlk3aDNPaXpBWnc0V1RaMDhSRmRFVlpZUWY=
- 类型:必选
- 描述:这是你在 Perplexity AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
pplx-xxxxxx...xxxxxx
- 类型:可选
- 描述:如果你手动配置了 Perplexity 接口代理,可以使用此配置项来覆盖默认的 Perplexity API 请求基础 URL
- 默认值:
https://api.Perplexity.ai
- 示例:
https://my-Perplexity-proxy.com
- 类型:必选
- 描述:这是你在 Minimax AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 Mistral AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx=
- 类型:必选
- 描述:这是你在 Groq AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
gsk_xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+gemma2-9b-it,+llama-3.1-8b-instant
- 类型:可选
- 描述:如果你手动配置了 Groq 接口代理,可以使用此配置项来覆盖默认的 Groq API 请求基础 URL
- 默认值:
https://api.groq.com/openai/v1
- 示例:
https://my-groq-proxy.com/v1
- 类型:必选
- 描述:这是你在 智谱 AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
4582d332441a313f5c2ed9824d1798ca.rC8EcTAhgbOuAuVT
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+glm-4-alltools,+glm-4-plus
- 类型:必选
- 描述:这是你在零一万物服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+yi-large,+yi-large-rag
- 类型:必选
- 描述:这是你在阿里云百炼平台上获取的 DashScope API 密钥
- 默认值:-
- 示例:
sk-xxxxx...xxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+qwen-turbo-latest,+qwen-plus-latest
- 类型:必选
- 描述:这是你在 Stepfun AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 Novita AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+meta-llama/llama-3.1-8b-instruct,+meta-llama/llama-3.1-70b-instruct
- 类型:必选
- 描述:这是你在 百川智能 服务平台申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 紫东太初 服务平台申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 360智脑 服务平台申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 Siliconflow 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+deepseek-ai/DeepSeek-V2.5,+Qwen/Qwen2.5-7B-Instruct
- 类型:可选
- 描述:如果你手动配置了 Siliconflow 接口代理,可以使用此配置项来覆盖默认的 Siliconflow API 请求基础 URL
- 默认值:
https://api.siliconflow.cn/v1
- 示例:
https://my-siliconflow-proxy.com/v1
- 类型:必选
- 描述:这是你在 Upstage AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 Spark AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 A21 AI 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:必选
- 描述:这是你在 腾讯混元 服务中申请的 API 密钥
- 默认值:-
- 示例:
xxxxxx...xxxxxx
- 类型:可选
- 描述:用来控制模型列表,使用
+
增加一个模型,使用-
来隐藏一个模型,使用模型名=展示名<扩展配置>
来自定义模型的展示名,用英文逗号隔开。模型定义语法规则见 模型列表 - 默认值:
-
- 示例:
-all,+hunyuan-lite,+hunyuan-standard