Legal LLM

Lawmate Romania

개요

Lawmate Romania는 루마니아 법률 영역에 특화된 대형 언어 모델 (LLM)을 만드는 데 중점을 둔 프로젝트입니다. 이 모델은 루마니아 법률 문서를 기반으로 텍스트를 이해하고 생성함으로써 다양한 법적 작업을 지원하도록 설계되었습니다. 이 프로젝트는 Hugging Face 's Library의 Equall/Saul-7B-Instruct-V1 사전 훈련 된 모델을 사용합니다. 특히 헌법 및 교육법과 같은 루마니아 법적 텍스트에 대해 미세 조정됩니다.

리포 구조

documents/ : 루마니아 헌법 및 교육법을 포함한 모델 훈련에 사용되는 텍스트 문서가 포함되어 있습니다.

training_ds/ : 교육 목적으로 텍스트 문서에서 생성 된 데이터 세트 파일이 포함되어 있습니다.

env_llm.txt : 프로젝트를 실행하는 데 필요한 종속성 및 환경 설정을 나열합니다.

main.py : 대형 언어 모델 (LLM) 교육 및 평가를위한 주요 스크립트.

.gitignore : Specifies files and directories to be ignored by Git to keep the repository clean.

LawMate Romania/ : 예제 상호 작용을 보여주는 챗봇 스크립트와 스크린 샷이 포함되어 있습니다.

결과를 복제하는 단계

1. 환경 설정 :

   • 파이썬이 설치되었는지 확인하십시오.
   • 실행하여 필요한 종속성을 설치하십시오.

     pip install -r env_llm.txt

2. PDF 파일 준비 :

   • Place your PDF files in the documents/ directory.
   • 스크립트는이 파일에서 텍스트를 자동으로 추출하고 전처리합니다.

3. 모델 미세 조정 :

   • 제공된 데이터 세트에서 미리 훈련 된 LLM을 미세 조정하려면 기본 교육 스크립트 main.py 실행하십시오.

4. Evaluate and Save the Model :

   • 교육 후 스크립트는 유효성 검사 데이터 세트에서 모델의 성능을 평가합니다.
   • 미세 조정 모델은 향후 사용을 위해 저장됩니다.