llm math

Fine Tune LLM sur la résolution des mathématiques élémentaires vietnamiennes

Ceci est le point de contrôle LORA qui a affiné Meta-Math-Mistral-7B

1. Installer des dépendances

 pip install -r requirements.txt

ou

 conda env create -f environment.yml

2. Configurer le répertoire racine

 cd scripts

Remplacez la valeur de variable de l'environnement BASE_DIR par le chemin d'accès absolu vers le répertoire du projet.

3. Formation de fin à fin

 bash fine_tune.sh

Ou en utilisant Lora

 bash lora_fine_tune.sh

4. Inférence

Consultez ce cahier pour plus de détails.