Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

支持在令牌维度设置允许的模型 #178

Closed
songquanpeng opened this issue Jun 19, 2023 · 19 comments
Closed

支持在令牌维度设置允许的模型 #178

songquanpeng opened this issue Jun 19, 2023 · 19 comments
Labels
enhancement New feature or request

Comments

@songquanpeng
Copy link
Owner

这将有助于用户为令牌设置细粒度的限制。

@songquanpeng songquanpeng added the enhancement New feature or request label Jun 19, 2023
@songquanpeng songquanpeng moved this to Todo in One API Jun 19, 2023
@mrhaoji
Copy link
Contributor

mrhaoji commented Jun 21, 2023

+1 实用的功能

@lipanpan-hub
Copy link

+1 这功能很有必要

@tisfeng
Copy link
Contributor

tisfeng commented Jan 1, 2024

期待这个功能 😶

@songquanpeng
Copy link
Owner Author

已经支持

@wfce
Copy link

wfce commented Apr 3, 2024

已经支持

berry主题没支持吗,更新了,没有

@popdo
Copy link

popdo commented Apr 4, 2024

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

@Caixiaopig
Copy link

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

你部署两套也可以解决,一套内网一套外网

@popdo
Copy link

popdo commented Apr 4, 2024

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

你部署两套也可以解决,一套内网一套外网

我的用户是企业,企业不一定是在内网使用,公司服务器中搭建的chat项目或者公司内网中运行的Ai项目

@Caixiaopig
Copy link

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

你部署两套也可以解决,一套内网一套外网

我的用户是企业,企业不一定是在内网使用,公司服务器中搭建的chat项目或者公司内网中运行的Ai项目

可以寻求公司IT的帮助,在网络策略上做一些限制。

@mrhaoji
Copy link
Contributor

mrhaoji commented Apr 4, 2024

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

这个需求在下游是企业客户时是高概率存在的,令牌分配给某个项目之后,不排除被有心之人拿去私下使用,除了帮忙捞运行日志还不太好排查。

@popdo
Copy link

popdo commented Apr 4, 2024

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

你部署两套也可以解决,一套内网一套外网

我的用户是企业,企业不一定是在内网使用,公司服务器中搭建的chat项目或者公司内网中运行的Ai项目

可以寻求公司IT的帮助,在网络策略上做一些限制。

下游企业key分发给员工,员工有了key可以在任何地方使用。企业限制网络策略没有意义。除非企业自己再搭建一套oneapi自己在再做限制,但很多企业并没有懂技术的人员。限制key的ip可以最直接的限制员工滥用额度。

@popdo
Copy link

popdo commented Apr 4, 2024

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

这个需求在下游是企业客户时是高概率存在的,令牌分配给某个项目之后,不排除被有心之人拿去私下使用,除了帮忙捞运行日志还不太好排查。

是的,目前碰到好几个都是有这种需求的。

@songquanpeng
Copy link
Owner Author

berry主题还没更新此功能

@songquanpeng
Copy link
Owner Author

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

已经支持了,现在可以设置单个网段限制了

@popdo
Copy link

popdo commented Apr 5, 2024

在令牌维度什么时候能支持IP、ip段限制。很多企业给员工分发了key,只希望员工在公司可以使用。

已经支持了,现在可以设置单个网段限制了

感谢大佬,我本地测试添加编辑令牌填写ip网段一直无法通过验证

func IsValidSubnet(subnet string) error {
	_, _, err := net.ParseCIDR(subnet)
	return fmt.Errorf("failed to parse subnet: %w", err)
}

貌似原因是这里的验证始终返回的是错误。

另外是否可以支持填写多个ip或网段,逗号分割。

@songquanpeng
Copy link
Owner Author

我已经修复了,你更新

@songquanpeng
Copy link
Owner Author

v0.6.5-alpha.11,你说的多个网段的支持也已经支持了

@tisfeng
Copy link
Contributor

tisfeng commented Apr 12, 2024

你好,请问具体如何设置令牌支持的模型?没看到文档介绍,在令牌管理页面,也没相关的设置界面 🤔

image

@tisfeng
Copy link
Contributor

tisfeng commented Apr 12, 2024

哦,没问题了,原来是 air 主题没有更新 🥲

image

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
enhancement New feature or request
Projects
Status: Done
Development

No branches or pull requests

7 participants