llm math

ปรับแต่ง LLM ในการแก้คณิตศาสตร์ระดับประถมศึกษาเวียดนาม

นี่คือจุดตรวจ LORA ที่มีการปรับ meta-math-mistral-7b

1. ติดตั้ง Dependecies

 pip install -r requirements.txt

หรือ

 conda env create -f environment.yml

2. กำหนดค่าไดเรกทอรีราก

 cd scripts

แทนที่ค่าตัวแปรสภาพแวดล้อม BASE_DIR ด้วยเส้นทางสัมบูรณ์ไปยังไดเรกทอรีโครงการ

3. การปรับแต่งการปรับแต่งแบบ end-to-end

 bash fine_tune.sh

หรือใช้ lora

 bash lora_fine_tune.sh

4. การอนุมาน

ลองดูสมุดบันทึกนี้เพื่อดูรายละเอียดเพิ่มเติม