RAG nificent 다운로드 - RAG nificent 소스 코드 다운로드

RAG nificent

기타 소스코드

v0.0.3 - Llama 3.1 is here!

다운로드

RAG NIFICENT : 맞춤 PDF, 보고서 및 지침의 인용을 위해 LLM에 의해 구동되는 AI 챗봇

이제 메타 AI의 LLAMA-3.1을 지원합니다

번개 챗봇 로고

Ragnificent는 RAG (Resprieval-Augmented Generation)의 힘을 활용하여 WHO 권장 사항 문서와 같은 주어진 주제에 대한 정보가 포함 된 PDF의 선별 된 디렉토리의 즉각적인 답변 및 참조를 제공하는 최첨단 저장소입니다. 이 시스템은 연구원, 정책 입안자 및 대중이 광범위한 문서 내에서 특정 정보를 빠르게 찾도록 돕기 위해 고안되었습니다.

특징

대화 인터페이스 : 자연어 쿼리를 사용하여 시스템에 참여하여 PDF에서 직접 공급되는 응답을받습니다.
직접 인용 : 시스템의 모든 응답에는 소스 PDF 페이지에 대한 직접 링크가 포함되어 추적 성 및 검증을 보장합니다.
PDF 디렉토리 : 현재 Schistosomiasis 및 Malaria와 같은 주요 건강 주제에 대한 WHO를 포함하여 현재 정의 된 주요 PDF 문서 세트.

사용 가능한 모델

? LLAMA-3.1-8B 인스턴트 : 빠른 상호 작용에 최적화 된이 모델의 즉각적이고 효율적인 응답을 경험하십시오.
? LLAMA-3.1-70B versatile :이 다재다능한 모델을 활용하여 정확도가 높은 광범위한 복잡한 언어 작업을 사용하십시오.
GPT-3.5-Turbo : 다양한 대화 작업에 적합한 고급 인간과 같은 상호 작용에 참여합니다.
? LLAMA3-70B-8192 : 딥 러닝 통찰력에 이상적인이 대규모 모델로 고급 공연을 즐기십시오.
? LLAMA3-8B-8192 :이보다 접근 가능한 LLAMA3 버전의 HARNESS 강력한 기능은 광범위한 AI 응용 프로그램에 적합합니다.
? Mixtral-8x7b-32768 : 미묘한 이해 및 응답 생성을위한 Mixtral의 광범위한 용량으로 앙상블 모델링의 힘을 활용하십시오.
? Gemma-7B-IT : Gemma와의 특수 상호 작용 및 기술 중심 솔루션을 탐색하여 IT 및 기술 컨텐츠에 맞게.

데모

래그 널리 퍼진 데모

작동 방식

이 응용 프로그램은 OpenAI 임베딩, Pinecone 벡터 검색 및 대화 인터페이스의 조합을 사용하여 원활한 검색 경험을 제공합니다. 쿼리가 이루어지면 시스템 :

쿼리를 임베딩으로 변환합니다.
Pinecone의 벡터 검색을 사용하여 가장 관련성이 높은 문서 섹션을 검색합니다.
인용 및 소스 문서에 대한 링크와 함께 답변을 반환합니다.

설정

저장소 복제 :

git clone https://github.com/yourusername/RAG-nificent.git

종속성 설치 :
```
pip install -r requirements.txt
```
.env 에서 환경 변수를 설정합니다 (또한 .env.example 파일 참조 :
- PINECONE_INDEX_NAME
- PINECONE_NAME_SPACE
- OPENAI_API_KEY
- PINECONE_API_KEY
- GROQ_API_KEY
PINECONE_INDEX_NAME 과 동일한 이름의 Pinecone 인덱스를 만듭니다. dimensions=1536 및 metric=cosine 으로 설정하십시오.
PDFS를 pdf_data 디렉토리에 배치하고 data_ingestion.py 실행하십시오.
응용 프로그램 실행 :
```
chainlit run src/app.py
```