民间版中文羊驼模型 v2.0
🚀 重磅更新中文LLaMA、Alpaca 13B版本!
- 综合评分:7B版本49分,13B版本71分👍🏻
- 优化了训练参数,13B模型相比7B模型具有更好的事实性
- 尤其在知识问答、文学诗词、娱乐、翻译、伦理拒答等分类上获得显著提升
- 实测在llama.cpp程序中,13B量化模型的推理速度仍然很快(M1 Max下测试)
📝 完善了模型评测样例
- 现在一共给出10大类评测样例,涵盖了多轮交互、问答、翻译、写信、代码、伦理等分类。
- 以GPT-4为裁判,给出了中文Alpaca 7B和13B的全面对比评测
- 用户可根据评测结果更快地找到适合自己的模型
📚 添加了Colab在线转换脚本,转换更方便
- 添加了Google Colab在线转换脚本
- 优化了内存使用,现在免费用户也有机会轻松转换和量化7B和13B模型了