Skip to content

民间版中文羊驼模型 v1.1

Compare
Choose a tag to compare
@ymcui ymcui released this 31 Mar 03:55
· 491 commits to main since this release
  • 🚀 进一步简化模型合并步骤,从原来的三步变为两步
  • 🚀 知名LLaMA量化和部署工具llama.cpp迎来大更新,官方称加载速度可提升10-100x,建议所有用户更新最新版本。特别说明:llama.cpp旧代码生成的量化模型不能在新代码上使用,因此需要以下二选一步骤:
    • 选项一:如果你还保存了合并模型后的.pth文件,可以使用llama.cpp最新代码进行重新量化,步骤与之前相同
    • 选项二:如果你已经删除了合并模型后的.pth文件,可以使用llama.cpp最新提供的migrate-ggml-2023-03-30-pr613.py脚本将旧模型直接转换为新模型
  • 📚 添加了数据爬取脚本(利用官方gpt-3.5-turboAPI接口),用户可根据需要自行修改模板并爬取数据