Wizard_QLoRA_Finetuning
1.0.0
用Qlora填充一些向导模型
https://youtu.be/hkt5nz0buso?si=hhnmylp_z5sgzlmbm
可以使用finetune.py脚本进行填充。在此脚本中，将以4位精度下载并在其中一个数据集上下载和填充模型。随着填充进度，检查点将保存到指定的输出目录。
训练模型后，应将检查点文件之一合并，以便将Lora的权重和旧重量合并为单个权重矩阵，从而使推断比将其分开的效率更高。 merge.py给定指定的检查点文件和指定的模型类型的合并。
推理有一些脚本。 infer.py和infer.ipynb相似，并且仅在给定模型上直接推断。 infer_interface.ipynb具有使用Gradio的附加接口。
upload.py可以用来将拥抱面模型上传到集线器上，并可以轻松地给出一个回购名称。确保从拥抱面获得write令牌到正确上传。
data_creation.ipynb是数据创建的简单示例。
