llm math

Fine Tune LLM en la resolución de matemáticas primarias vietnamitas

Este es el punto de control de Lora que sintonizó meta-mate-mistral-7b

1. Instalar dependecies

 pip install -r requirements.txt

o

 conda env create -f environment.yml

2. Configurar el directorio raíz

 cd scripts

Reemplace el valor variable de entorno BASE_DIR con la ruta absoluta al directorio del proyecto.

3. Entrenamiento de ajuste de extremo a extremo

 bash fine_tune.sh

O usando lora

 bash lora_fine_tune.sh

4. Inferencia

Echa un vistazo a este cuaderno para obtener más detalles.