Skip to content

模型合并与转换

ymcui edited this page Jun 8, 2023 · 2 revisions

为了将LoRA模型与原版LLaMA进行合并,目前提供了两种方式:

  • 在线转换:适合Google Colab用户,可利用notebook进行在线转换并量化模型

  • 手动转换:适合离线方式转换,生成不同格式的模型,以便进行量化或进一步精调

Clone this wiki locally