Jessup Cellar RAG App

¿El ayudante de Jessup?

El ayudante de Jessup es un chatbot basado en recuperación que utiliza un modelo LLAMA3-8B previamente capacitado para generar respuestas a la entrada del usuario. Groq se ha utilizado para una inferencia instantánea casi instantánea debido a la alta velocidad de token, y la API de Google Gen AI Studio se ha utilizado para obtener los incrustaciones. El modelo utiliza un archivo PDF para la recuperación de información y la generación de respuestas basadas en el contexto. El archivo PDF se puede encontrar en la carpeta 'PDFS'.

Demostración en vivo

El proyecto está alojado en Streamlit y se puede acceder aquí.

Empezando

Estas instrucciones lo guiarán a través de una copia del proyecto en funcionamiento en su máquina local para fines de desarrollo y prueba.

Requisitos previos

Primero, deberá clonar el repositorio de su máquina local. Puede hacer esto ejecutando el siguiente comando en su terminal:

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

A continuación, deberá instalar los paquetes requeridos. Puede hacer esto ejecutando el siguiente comando en su terminal:

pip install -r requirements.txt

Configuración de las variables de entorno

Deberá configurar las variables de entorno. Para esto, debe crear un archivo .env en el directorio raíz del proyecto. El archivo .env debe contener las siguientes variables de entorno:

• GOOGLE_API_KEY : esta es la clave API para la API de Google Gen AI Studio. Puede obtener esto siguiendo las instrucciones aquí.

• GROQ_API_KEY : esta es la clave API para la API Groq. Puede obtener esto siguiendo las instrucciones aquí.

Ejecutando la aplicación

Ahora para ejecutar la aplicación, deberá ejecutar el siguiente comando en su terminal:

streamlit run app.py

Autor

• ¿Soumyadeep Bose?