民间版中文羊驼模型 v1.1
- 🚀 进一步简化模型合并步骤,从原来的三步变为两步
- 🚀 知名LLaMA量化和部署工具llama.cpp迎来大更新,官方称加载速度可提升10-100x,建议所有用户更新最新版本。特别说明:llama.cpp旧代码生成的量化模型不能在新代码上使用,因此需要以下二选一步骤:
- 选项一:如果你还保存了合并模型后的
.pth
文件,可以使用llama.cpp最新代码进行重新量化,步骤与之前相同 - 选项二:如果你已经删除了合并模型后的
.pth
文件,可以使用llama.cpp最新提供的migrate-ggml-2023-03-30-pr613.py
脚本将旧模型直接转换为新模型
- 选项一:如果你还保存了合并模型后的
- 📚 添加了数据爬取脚本(利用官方
gpt-3.5-turbo
API接口),用户可根据需要自行修改模板并爬取数据