llama2 lora fine tuning

طبقة LLAMA2 مع Lora و Deepspeed

قم بضبط طراز Llama-2-7b-Chat على اثنين من P100s (16g).

يعتمد مصدر البيانات تنسيق الألبكة ويتألف من مصدرين للبيانات: القطار والتحقق من الصحة.

1. متطلبات بطاقة الرسومات

ذاكرة الفيديو 16G وما فوق (P100 أو T4 وما فوق) ، كتل واحدة أو أكثر.

2. رمز المصدر استنساخ

git clone https://github.com/git-cloner/llama2-lora-fine-tuning
cd llama2-lora-fine-tuning

3. بيئة تعتمد على التثبيت

 # 创建虚拟环境
conda create -n llama2 python=3.9 -y
conda activate llama2
# 下载github.com上的依赖资源（需要反复试才能成功，所以单独安装）
export GIT_TRACE=1
export GIT_CURL_VERBOSE=1
pip install git+https://github.com/PanQiWei/AutoGPTQ.git -i https://pypi.mirrors.ustc.edu.cn/simple --trusted-host=pypi.mirrors.ustc.edu.cn
pip install git+https://github.com/huggingface/peft -i https://pypi.mirrors.ustc.edu.cn/simple
pip install git+https://github.com/huggingface/transformers -i https://pypi.mirrors.ustc.edu.cn/simple
# 安装其他依赖包
pip install -r requirements.txt -i https://pypi.mirrors.ustc.edu.cn/simple
# 验证bitsandbytes
python -m bitsandbytes

4. قم بتنزيل النموذج الأصلي

python model_download.py --repo_id daryl149/llama-2-7b-chat-hf

5. قم بتوسيع قائمة الكلمات الصينية

 # 使用了https://github.com/ymcui/Chinese-LLaMA-Alpaca.git的方法扩充中文词表
# 扩充完的词表在merged_tokenizes_sp（全精度）和merged_tokenizer_hf（半精度）
# 在微调时，将使用--tokenizer_name ./merged_tokenizer_hf参数
python merge_tokenizers.py 
  --llama_tokenizer_dir ./models/daryl149/llama-2-7b-chat-hf 
  --chinese_sp_model_file ./chinese_sp.model

6. وصف المعلمة الدقيقة

هناك العديد من المعلمات التي يمكن تعديلها:

المعلمة	يوضح	احصل على القيمة
load_in_bits	دقة النموذج	4 و 8. إذا كانت ذاكرة الفيديو لا تتفوق ، فحاول اختيار الدقة العالية 8.
block_size	الحد الأقصى لطول الرمز المميز	الاختيار الأول 2048 ، تجاوز الذاكرة ، 1024 ، 512 ، إلخ.
per_device_train_batch_size	عدد الدُفعات لكل بطاقة يتم تحميلها في كل مرة أثناء التدريب	طالما أن الذاكرة لا تفيض ، حاول الذهاب إلى الانتخابات العامة
per_device_eval_batch_size	عدد الدُفعات لكل بطاقة يتم تحميلها في كل مرة أثناء التقييم	طالما أن الذاكرة لا تفيض ، حاول الذهاب إلى الانتخابات العامة
يشمل	تسلسلات بطاقة الرسومات المستخدمة	على سبيل المثال ، قطعتان: مضيف محلي: 1،2 (لاحظ أن التسلسل ليس بالضرورة هو نفسه ما تراه Nvidia-SMI)
num_train_epochs	عدد جولات التدريب	3 جولات على الأقل

7. تعديل غرامة

chmod +x finetune-lora.sh
# 微调
./finetune-lora.sh
# 微调（后台运行）
pkill -9 -f finetune-lora
nohup ./finetune-lora.sh > train.log  2>&1 &
tail -f train.log

8. اختبار

CUDA_VISIBLE_DEVICES=0 python generate.py 
    --base_model ' ./models/daryl149/llama-2-7b-chat-hf ' 
    --lora_weights ' output/checkpoint-2000 ' 
    --load_8bit #不加这个参数是用的4bit