llm math

Fine Tune LLM na solução de matemática elementar vietnamita

Este é o ponto de verificação Lora que meta-matra-Mistral-7b ajustado fina

1. Instalar dependes

 pip install -r requirements.txt

ou

 conda env create -f environment.yml

2. Configure o diretório raiz

 cd scripts

Substitua o valor variável do ambiente BASE_DIR pelo caminho absoluto para o diretório do projeto.

3. Treinamento de ajuste fina de ponta a ponta

 bash fine_tune.sh

Ou usando Lora

 bash lora_fine_tune.sh

4. Inferência

Confira este caderno para obter mais detalhes.