Jessup Cellar RAG App

Helper de Jessup?

O ajudante de Jessup é um chatbot baseado em recuperação que usa um modelo LLAMA3-8B pré-treinado para gerar respostas à entrada do usuário. O GROQ tem sido usado para uma inferência quase instantânea devido à alta velocidade do token, e a API do Google Gen AI Studio foi usada para obter as incorporações. O modelo usa um arquivo PDF para recuperação de informações e geração de respostas com base no contexto. O arquivo PDF pode ser encontrado na pasta 'PDFS'.

Demoção ao vivo

O projeto está hospedado no streamlit e pode ser acessado aqui.

Começando

Essas instruções o guiarão através da obtenção de uma cópia do projeto em funcionamento em sua máquina local para fins de desenvolvimento e teste.

Pré -requisitos

Primeiro, você precisará clonar o repositório para sua máquina local. Você pode fazer isso executando o seguinte comando em seu terminal:

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

Em seguida, você precisará instalar os pacotes necessários. Você pode fazer isso executando o seguinte comando em seu terminal:

pip install -r requirements.txt

Configurando as variáveis ​​de ambiente

Você precisará configurar as variáveis ​​de ambiente. Para isso, você precisa criar um arquivo .env no diretório raiz do projeto. O arquivo .env deve conter as seguintes variáveis ​​de ambiente:

• GOOGLE_API_KEY : Esta é a chave da API para a API do Google Gen AI Studio. Você pode obter isso seguindo as instruções aqui.

• GROQ_API_KEY : Esta é a chave da API para a API Groq. Você pode obter isso seguindo as instruções aqui.

Executando o aplicativo

Agora, para executar o aplicativo, você precisará executar o seguinte comando em seu terminal:

streamlit run app.py

Autor

• Soumyadeep Bose?