Jessup Cellar RAG App

Jessup의 도우미?

Jessup의 도우미는 미리 훈련 된 LLAMA3-8B 모델을 사용하여 사용자 입력에 대한 응답을 생성하는 검색 기반 챗봇입니다. Groq는 토큰 속도가 높기 때문에 거의 인스턴트 추론에 사용되었으며 Google Gen AI Studio API는 임베딩을 얻는 데 사용되었습니다. 이 모델은 컨텍스트에 따라 정보 검색 및 응답 생성을 위해 PDF 파일을 사용합니다. PDF 파일은 'PDFS'폴더에서 찾을 수 있습니다.

라이브 데모

이 프로젝트는 Streamlit에서 호스팅되며 여기에서 액세스 할 수 있습니다.

시작하기

이 지침은 개발 및 테스트 목적으로 프로젝트 사본을 업로 로컬 컴퓨터에서 실행하는 것을 안내합니다.

전제 조건

우선 저장소를 로컬 컴퓨터로 복제해야합니다. 터미널에서 다음 명령을 실행하여이를 수행 할 수 있습니다.

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

다음으로 필요한 패키지를 설치해야합니다. 터미널에서 다음 명령을 실행하여이를 수행 할 수 있습니다.

pip install -r requirements.txt

환경 변수 설정

환경 변수를 설정해야합니다. 이를 위해서는 프로젝트의 루트 디렉토리에 .env 파일을 만들어야합니다. .env 파일에는 다음 환경 변수가 포함되어야합니다.

• GOOGLE_API_KEY : Google Gen AI Studio API의 API 키입니다. 여기에서 지침을 따르면 이것을 얻을 수 있습니다.

• GROQ_API_KEY : groq API의 API 키입니다. 여기에서 지침을 따르면 이것을 얻을 수 있습니다.

앱 실행

이제 앱을 실행하려면 터미널에서 다음 명령을 실행해야합니다.

streamlit run app.py

작가

• Soumyadeep Bose?