L'assistance de Jessup est un chatbot basé sur la récupération qui utilise un modèle LLAMA3-8B pré-formé pour générer des réponses à l'entrée de l'utilisateur. Le GROQ a été utilisé pour une inférence presque instantanée en raison de la vitesse de jeton élevée, et l'API Google Gen Ai Studio a été utilisée pour obtenir les intérêts. Le modèle utilise un fichier PDF pour la récupération des informations et la génération de réponses basées sur le contexte. Le fichier PDF se trouve dans le dossier 'PDFS'.
Le projet est hébergé sur Streamlit et est accessible ici.
Ces instructions vous guideront à travers une copie du projet opérationnel sur votre machine locale à des fins de développement et de test.
Tout d'abord, vous devrez cloner le référentiel de votre machine locale. Vous pouvez le faire en exécutant la commande suivante dans votre terminal:
git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.gitEnsuite, vous devrez installer les packages requis. Vous pouvez le faire en exécutant la commande suivante dans votre terminal:
pip install -r requirements.txt Vous devrez configurer les variables d'environnement. Pour cela, vous devez créer un fichier .env dans le répertoire racine du projet. Le fichier .env doit contenir les variables d'environnement suivantes:
GOOGLE_API_KEY : Il s'agit de la clé API de l'API Google Gen AI Studio. Vous pouvez l'obtenir en suivant les instructions ici.
GROQ_API_KEY : Il s'agit de la clé API pour l'API GROQ. Vous pouvez l'obtenir en suivant les instructions ici.
Maintenant, pour exécuter l'application, vous devrez exécuter la commande suivante dans votre terminal:
streamlit run app.py