Jessup Cellar RAG App

Jessups Helfer?

Jessups Helfer ist ein Abrufbasis-Chatbot, bei dem ein vorgebildetes LAMA3-8B-Modell verwendet wird, um Antworten auf Benutzereingaben zu generieren. COQ wurde aufgrund der hohen Token -Geschwindigkeit für eine nahezu sofortige Folgerung verwendet, und die Google Gen AI Studio -API wurde verwendet, um die Einbettungen zu erhalten. Das Modell verwendet eine PDF -Datei zum Abrufen von Informationen und zur Erzeugung von Antworten basierend auf dem Kontext. Die PDF -Datei finden Sie im Ordner "PDFS".

Live -Demo

Das Projekt wird auf Strom und kann hier zugegriffen werden.

Erste Schritte

Diese Anweisungen führen Sie durch eine Kopie des Projekts zum Einsatz auf Ihrer lokalen Maschine zu Entwicklungs- und Testzwecken.

Voraussetzungen

Zunächst müssen Sie das Repository in Ihre lokale Maschine klonen. Sie können dies tun, indem Sie den folgenden Befehl in Ihrem Terminal ausführen:

git clone https://github.com/soumyadeepbose/Jessup-Cellar-RAG-App.git

Als nächstes müssen Sie die erforderlichen Pakete installieren. Sie können dies tun, indem Sie den folgenden Befehl in Ihrem Terminal ausführen:

pip install -r requirements.txt

Einrichten der Umgebungsvariablen

Sie müssen die Umgebungsvariablen einrichten. Dazu müssen Sie im Stammverzeichnis des Projekts eine .env -Datei erstellen. Die .env -Datei sollte die folgenden Umgebungsvariablen enthalten:

• GOOGLE_API_KEY : Dies ist der API -Schlüssel für die Google Gen AI Studio API. Sie können dies erhalten, indem Sie den Anweisungen hier folgen.

• GROQ_API_KEY : Dies ist die API -Schlüssel für die GROQ -API. Sie können dies erhalten, indem Sie den Anweisungen hier folgen.

Ausführen der App

Um die App auszuführen, müssen Sie den folgenden Befehl in Ihrem Terminal ausführen:

streamlit run app.py

Autor

• Soumyadeep Bose?