LLaMA 8bit LoRA
1.0.0
8bit-lora ou 4bit-lora
Repositório para treinar uma LORA para os modelos LLAMA (1 e 2) em Huggingface com quantização de 8 ou 4 bits. Pesquisa apenas para Llama 1, Llama 2 está aberta comercialmente.
Junte -se ao nosso servidor Discord para atualizações, suporte e colaboração
As instruções de criação, treinamento, fusão de peso e quantização de dados estão nos documentos.
