QLoRA Fine tuning for Film Character Styled Responses from LLM

Qlora-fine-tuning-for-film-character styled-responess-from-llm

필름 문자 스타일 응답을 생성하기 위해 사용자 정의 텍스트 데이터 세트가 포함 된 미세 조정 LLAMA2 LLM 코드

개요

이 코드는 Qlora 매개 변수 효율적인 미세 조정 기술을 사용하여 반지의 제왕의 Gandalf 스타일로 응답을 반환 할 수있는 맞춤형 LLAMA2 LLM을 만듭니다.

프로젝트 구조

1. get_gandalf_data.py- 온라인 리소스의 Webscrapes gandalf 텍스트 대화 데이터

2. gandalf_dataset.py- gandalf.csv에서 쿼리/응답 데이터 세트를 생성하여 웹 캐롤라이어 대화 데이터에서 생성되었습니다.

3. hyper_params.py- 훈련 루프의 하이퍼 파라미터를 정의합니다

4. Train_gandalf.py- Qlora Peft 기술을 사용하여 사용자 정의 Gandalf 데이터 세트가있는 미세 Tunes Base LLAMA2 모델

5. Evaluate.py- 미세 조정 된 llama2 모델을로드하고 입력 텍스트 프롬프트에 대한 Gandalf 스타일 응답을 생성합니다.

작가

루이스 샤포 사우 더스