LLaMA 8bit LoRA
1.0.0
8bit-lora oder 4bit-lora
Repository für das Training einer Lora für die Lama-Modelle (1 und 2) zum Umarmen mit 8-Bit- oder 4-Bit-Quantisierung. Forschung nur für Llama 1, Lama 2 ist kommerziell geöffnet.
Schließen Sie sich unserem Discord -Server für Updates, Support und Zusammenarbeit bei
Die Erstellung, das Training, das Gewichtsverführen und die Quantisierungsanweisungen finden Sie in den Dokumenten.