LLaMA 8bit LoRA
1.0.0
8 bits-lora ou 4 bits-lora
Référentiel pour la formation d'une LORA pour les modèles LLAMA (1 et 2) sur Hugging Face avec une quantification 8 bits ou 4 bits. La recherche uniquement pour Llama 1, Llama 2 est ouverte commercialement.
Rejoignez notre serveur Discord pour les mises à jour, la prise en charge et la collaboration
Les instructions de création de données, de formation, de fusion de poids et de quantification sont dans les documents.