Llama3.1 Finetuning
1.0.0
Realice un parámetro completo ajustado, el ajuste fino de Lora y el ajuste fino de Qora para LLAMA3. Además, el ajuste fino del modelo QWEN1.5 también es compatible. Si desea reemplazarlo con otro modelo, lo más importante es preprocesar los datos.
2023/07/28: Agregue un ajuste fino a Baichuan2-7b-chat.
2024/07/24: Se agregó ajuste fino a Llama3.1-8b-Instructo. transformers==4.43.1 y accelerate==0.33.0 .
2024/07/22:
Agregue un ajuste fino a GLM-9B-CHAT. Nota: Debe reemplazar la línea 791 en modeling_chatglm.py con padding_mask = padding_mask.to(torch.bfloat16) . La versión de Transformers requerida es 4.42.4 . Después de instalar el paquete en requisitos.txt, debe reinstalar transformadores.
Se agregó un ajuste fino a Qwen1.5-7b-chat.
Agregue un ajuste fino al instructo QWEN2-7B.
Agregue un ajuste fino a YI1.5-6b-chat.
2024/07/19: Se agregó un ajuste fino a Internlm2.5. Nota: Internlm2.5 no es compatible con el ajuste fino usando BF16, por lo que FP16 se selecciona en el comando Ejecutar.
2024/10/04: Se agregó un ajuste fino a Qwen2.5-7b-Instructo. Agregue un ajuste fino a Llama3.2-3b-Instructo. pip install transformers --upgrade y pip install accelerate --upgrade .
Ejecute el dispositivo: solo use una tarjeta gráfica con memoria gráfica de 24 g.
python==3.8.8
pip install -r requirements.txt
Los datos se almacenan bajo datos, el formato específico es:
[
{
"conversations" : [
{
"from" : " user " ,
"value" : "你是那个名字叫ChatGPT的模型吗？ "
},
{
"from" : " assistant " ,
"value" : "我的名字是西西嘛呦，并且是通过家里蹲公司的大数据平台进行训练的。 "
}
]
}
...
]También se preparan múltiples rondas de conversaciones con datos en el formato anterior.
Ingrese la carpeta Model_hub, ejecute python download_modelscope.py para descargar el modelo LLAMA3-8B-Instructo.
Ingrese la carpeta de script.
Debido a las restricciones de la máquina, aquí no hay un parámetro completo ajustado. Puede probarlo si tiene las condiciones.
El número de tarjetas gráficas especificadas por NPROC_per_Node y CUDA_VISIBLE_DEVICES debe ser consistente.
NCCL_P2P_DISABLE=1
NCCL_IB_DISABLE=1
CUDA_VISIBLE_DEVICES=0,1,2,4,5,6,7
torchrun
--nproc_per_node 7
--nnodes 1
--node_rank 0
--master_addr localhost
--master_port 6601
../finetune_llama3.py
--model_name_or_path " ../model_hub/LLM-Research/Meta-Llama-3-8B-Instruct/ "
--data_path " ../data/Belle_sampled_qwen.json "
--bf16 True
--output_dir " ../output/llama3_8B_lora "
--num_train_epochs 100
--per_device_train_batch_size 1
--per_device_eval_batch_size 1
--gradient_accumulation_steps 8
--evaluation_strategy " no "
--save_strategy " steps "
--save_steps 5
--save_total_limit 1
--learning_rate 1e-5
--weight_decay 0.1
--adam_beta2 0.95
--warmup_ratio 0.01
--lr_scheduler_type " cosine "
--logging_steps 1
--report_to " none "
--model_max_length 4096
--gradient_checkpointing True
--lazy_preprocess True
--deepspeed " ../config/ds_config_zero3_72B.json "
--use_loraEl número de tarjetas gráficas especificadas por NPROC_per_Node y CUDA_VISIBLE_DEVICES debe ser consistente. Use Qlora para completar la capacitación en un solo 4090.
NCCL_P2P_DISABLE=1
NCCL_IB_DISABLE=1
CUDA_VISIBLE_DEVICES=0,1,2,4,5,6,7
torchrun
--nproc_per_node 7
--nnodes 1
--node_rank 0
--master_addr localhost
--master_port 6601
../finetune_llama3.py
--model_name_or_path " ../model_hub/LLM-Research/Meta-Llama-3-8B-Instruct/ "
--data_path " ../data/Belle_sampled_qwen.json "
--bf16 True
--output_dir " ../output/llama3_8B_qlora "
--num_train_epochs 100
--per_device_train_batch_size 1
--per_device_eval_batch_size 1
--gradient_accumulation_steps 16
--evaluation_strategy " no "
--save_strategy " steps "
--save_steps 5
--save_total_limit 1
--learning_rate 1e-5
--weight_decay 0.1
--adam_beta2 0.95
--warmup_ratio 0.01
--lr_scheduler_type " cosine "
--logging_steps 1
--report_to " none "
--model_max_length 4096
--gradient_checkpointing True
--lazy_preprocess True
--deepspeed " ../config/ds_config_zero2.json "
--use_lora
--load_in_4bit
--q_loraRazonamiento después del entrenamiento:
问题： 在互联网普及的时代，社交媒体已经成为了现代人生活中不可缺少的一部分。从微信、微博、 Facebook到Twitter 、 Instagram等等，社交媒体不仅满足了人们交流互动的需求，同时让人们更加容易地分享自己的生活瞬间、获取新闻资讯、找到志同道合的人群以及推广自己的业务。然而，与此同时，社交媒体也带来了一系列问题，如滥用个人信息、泄露隐私等。因此，如何正确地使用社交媒体已经成为了一个备受关注的话题。，总结上面这段文本的几个关键词
微调前结果： Arrrr , shiver me timbers ! Ye be wantin ' me to summarize the key words from that there text , eh ? Alright then , matey ! Here be the main points :
1. Social media ( the scourge o ' the seven seas ... er , I mean , the modern world )
2. Communication ( the lifeblood o ' the pirate' s existence ... er , I mean , the need for people to interact )
3. Sharing ( the treasure o ' the digital age... er, I mean, the ability to share one' s life moments )
4. Information ( the booty o ' the internet ... er , I mean , the news and knowledge shared online )
5. Privacy ( the anchor o ' security... er, I mean, the need to protect one' s personal info )
6. Correct usage ( the map to avoidin ' the rocky shores o' social media misuse ... er , I mean , the importance of using social media responsibly )
So hoist the colors , me hearties , and remember to use social media like a proper pirate : with caution , respect , and a keen eye for treasure !
微调后结果： 社交媒体、交流、分享、隐私、滥用信息El código se refiere principalmente a:
El modelo se puede descargar en el alcance del modelo:
