Finetune_LLMs

Finetune LLMS

Aperçu

Ce dépôt contient du code pour affiner les modèles de grande langue (LLMS) avec un ensemble de données célèbres.

Les méthodes prises en charge de la fusion sont en profondeur, Lora ou Qlora.

À l'origine, le repo a téléchargé et converti les poids du modèle pour GPTJ alors qu'il n'a pas encore été ajouté au package de transformateur HuggingFace. Ce code peut encore être vu sous la branche original_youtube .

/quotes_dataset contient l'ensemble de données correctement formaté pour un réglage fin. Voir Repo pour faire cet ensemble de données ici

/finetuning_repo contient du code originaire du dépôt ici que j'ai modifié pour travailler avec plus de modèles et avec plus de méthodes.

Assistance professionnelle

Si vous avez besoin d'une aide professionnelle rémunérée, qui est disponible via cet e-mail

Anciennes procédures vidéo (n'utilisez pas dans des conditions normales)

Voir l'ancienne vidéo du code de réapprovisionnement original ici pour un tutoriel vidéo.

Une vidéo plus mise à jour pour l'utilisation du modèle HuggingFace peut être vue ici

Accédez à la branche original_youtube , c'est que vous voulez voir le code, mais je vous recommande fortement d'utiliser des méthodes plus modernes

Procédure pas à pas de Docker mise à jour (utilisez-le dans des conditions normales)

La procédure pas à pas mise à jour utilise Nvidia-Docker pour retirer le mal de tête d'une grande partie du processus.

Exigences

1. Un GPU NVIDIA suffisant (généralement au moins 24 Go de VRAM et le support pour FP16). Si vous utilisez des offres cloud, je recommande A100. Bien que cela coûte plus cher sa vitesse et VRAM compenser.
2. Utilisez une machine Linux. Je recommande Ubuntu
3. Version suffisamment moderne de Docker (en cas de doute à la mise à jour vers les plus tard)
4. Nvidia-Docker autorise le GPU Passthrough au conteneur Docker. Voir le guide d'installation ici
5. Assurez-vous que les derniers pilotes NVIDIA installés. Découvrez l'outil ici

Exemple de pilotes CUDA

Si vous avez un système Linux 64 bits et que vous avez besoin de pilotes pour un A100, vous pouvez exécuter une commande comme celle-ci pour être configurée.

wget https://us.download.nvidia.com/tesla/515.86.01/NVIDIA-Linux-x86_64-515.86.01.run

Vous exécuterez ensuite le programme téléchargé avec Sudo.

chmod 777 NVIDIA-Linux-x86_64-515.86.01.run

sudo ./NVIDIA-Linux-x86_64-515.86.01.run

Usage

1. Tout d'abord, construisez l'image docker en exécutant build_image.sh . Si vous recevez une erreur sur le fait de ne pas trouver l'image Docker, mettez à jour vers une nouvelle version CUDA. Les images sont périodiquement obsolètes. Ensuite, ouvrez un RP afin que vous puissiez résoudre ce problème pour d'autres. La construction de l'image Docker peut prendre plusieurs minutes.
2. Run run_image.sh . Ce script exécute l'image Docker qui vient d'être construite et monte le répertoire actuel vers /workspace à l'intérieur du conteneur Docker. Tous les GPU du système seront passés. De plus, pour empêcher le téléchargement de modèles chaque fois que ce conteneur est exécuté, votre .cache sera également passé.
3. Cette image peut désormais être utilisée pour la finetune d'un modèle avec des GPU ou pour utiliser une inférence profonde. Accédez à un autre dossier pour plus d'informations