RAG Enhanced NCERT Tutor

NCERT BOOKS RAG SYSTEM

이 프로젝트는 텍스트 임베딩 및 벡터 데이터베이스를 위해 Ollama를 사용하여 NCERT 책에 대한 검색 된 세대 생성 (RAG) 시스템을 구현하고 언어 모델 응답을위한 Groq API를 구현합니다.

특징

• 벡터 임베딩 생성을 위해 Ollama를 통해 Nomic 텍스트 임베딩 모델을 사용합니다.
• ChromADB에 임베딩을 저장합니다
• 응답 생성을위한 llama 3 8b 모델과 함께 Groq API 사용
• 사용자 상호 작용을위한 FastApi 백엔드 및 간단한 프론트 엔드 제공

간단한 인터페이스

아래는 NCERT Books Rag 시스템의 Streamlit 인터페이스의 스크린 샷입니다.

시스템 아키텍처

다음은 NCERT BOOKS RAG 시스템 아키텍처에 대한 개요입니다.

시스템 아키텍처는 다음 구성 요소로 구성됩니다.

1. 데이터 수집 : NCERT Books는 처리 및 임베딩을 위해 준비되었습니다.
2. 임베딩 생성 : nomic 텍스트 임베딩 모델을 갖춘 Ollama는 처리 된 텍스트에 대한 벡터 임베딩을 만듭니다.
3. 벡터 저장 : ChromADB는 효율적인 검색을 위해 생성 된 임베딩을 저장합니다.
4. 쿼리 처리 : 사용자 쿼리는 처리되고 관련 임베드는 ChromADB에서 검색됩니다.
5. 언어 모델 : LLAMA 3 8B 모델이있는 Groq API는 검색된 컨텍스트 및 사용자 쿼리에 따라 응답을 생성합니다.
6. 백엔드 : Fastapi는 프론트 엔드와 다양한 시스템 구성 요소 간의 커뮤니케이션을 처리합니다.
7. FRONTEND : Streamlit은 시스템을 쿼리하고 결과를 표시하기위한 대화식 사용자 인터페이스를 제공합니다.

전제 조건

시작하기 전에 다음 요구 사항을 충족했는지 확인하십시오.

• 파이썬 3.7+
• 올라마 설치 및 설정
• Groq API 계정 및 API 키

설치

1. 저장소 복제 :

    git clone https://github.com/yourusername/ncert-rag-system.git
   cd ncert-rag-system
   

2. 필요한 종속성 설치 :

    pip install -r requirements.txt
   

3. 올라마 다운로드 및 설정 :

   • Ollama의 공식 웹 사이트의 지침을 따라 Ollama를 설치하십시오.
   • nomic 텍스트 임베딩 모델 다운로드 :

      ollama pull nomic-embed-text
     

4. Groq API 키 설정 :

   • 프로젝트 루트에서 .env 파일을 만듭니다
   • Groq API 키 추가 :

      GROQ_API_KEY=your_api_key_here
     

용법

1. Fastapi 백엔드를 시작하십시오.

    uvicorn main:app --reload
   

2. 간소화 UI를 시작하십시오.

    streamlit run streamlit_app.py
   

3. 웹 브라우저를 열고 Streamlit App URL (일반적으로 http://localhost:8501 )으로 이동하십시오.

4. 인터페이스를 사용하여 NCERT BOOKS RAG 시스템과 상호 작용하십시오.

헝겊 평가

특허

이 프로젝트는 MIT 라이센스에 따라 라이센스가 부여됩니다. 자세한 내용은 라이센스 파일을 참조하십시오.

기여

기부금을 환영합니다! 풀 요청을 제출하십시오.

감사의 말

• 임베딩 모델을 제공하기위한 Ollama
• LLM API를위한 Groq
• 백엔드 및 프론트 엔드 프레임 워크를위한 Fastapi 및 간소