LLaMA 8bit LoRA

채팅 라마

8bit-lora 또는 4bit-lora

8 비트 또는 4 비트 양자화로 포옹에 대한 LLAMA (1 및 2) 모델에 대한 LORA를 훈련하기위한 저장소. Llama 1에 대해서만 연구 Llama 2는 상업적으로 개방되어 있습니다.


업데이트, 지원 및 협업을 위해 Discord 서버에 가입하십시오

데이터 세트 생성, 교육, 무게 병합 및 양자화 지침은 문서에 있습니다.

Huggingface에서 훈련 된 Loras를 확인하십시오

Anthropic의 HH

• 7b
• 13b
• 30b