gemma7b groq streamlit

Gemma 7b mit COQ - Streamlit PDF zu Vektor -Datenbank -API

Willkommen im Gemma 7B mit dem CREQ -Repository! Dieses Projekt zeigt die Integration des GEMMA 7B -Sprachmodells mit GRQ, um ein festes PDF -Dokument zu verarbeiten, seinen Inhalt in eine Vektor -Datenbank umzuwandeln und eine interaktive Q & A -Schnittstelle mithilfe von Streamlit bereitzustellen. Benutzer können Fragen stellen und Antworten sowie die relevanten Daten über eine benutzerfreundliche Webanwendung erhalten.

Überblick

Dieses Repository bietet eine optimierte Lösung zum Konvertieren eines PDF -Dokuments in eine durchsuchbare Vektor -Datenbank mithilfe des CROQ -Sprache und dem Gemma 7B -Modell. Die Anwendung ist mit Stromversorgung erstellt, um eine interaktive Frage-und-Antwort-Schnittstelle zu ermöglichen. Benutzer können den Inhalt des PDF untersuchen, Fragen stellen und relevante Daten anzeigen, die zum Generieren von Antworten verwendet werden.

Merkmale

• PDF -Verarbeitung : Text aus einem festen PDF -Dokument extrahieren (Standard ist ein VIT -Research -Papier).
• Vektorisation : Umwandelte extrahierte Text in Vektordarstellungen unter Verwendung von GEMMA 7B.
• Interaktive Q & A : Stellen Sie Fragen und erhalten Sie mit den entsprechenden Daten über eine streamlit -Web -App Antworten.
• Datenordner : Ändern Sie einfach das PDF -Dokument, indem Sie eine neue Datei im data platzieren.
• Umgebungskonfiguration : Verwalten Sie API -Schlüssel mit einer .env -Datei.

Erste Schritte

Voraussetzungen

• Python 3,8 oder höher
• Straffung
• GROQ -Bibliothek
• Gemma 7B -Modell
• Erforderliche Python -Pakete (in requirements.txt aufgeführt.txt)
• GROQ- und Google -API -Schlüssel

Installation

1. Klonen Sie das Repository:

   git clone https://github.com/NevroHelios/gemma7b-groq-streamlit.git
   cd gemma7b-groq-streamlit

2. Abhängigkeiten installieren:

   pip install -r requirements.txt

3. Laden Sie das Gemma 7B -Modell herunter und richten Sie ein.

4. Rufen Sie Ihre COQ- und Google -API -Schlüssel an und fügen Sie sie im Stammverzeichnis zu einer .env -Datei hinzu:

    GROQ_API_KEY=your_groq_api_key
   GOOGLE_API_KEY=your_google_api_key
   

Verwendung

1. Bereiten Sie die PDF vor :

   • Platzieren Sie Ihre PDF -Datei in das data (Standarddatei ist ein VIT -Research -Papier).

2. Führen Sie die Streamlit -App aus :

   • Starten Sie die Streamlit -App:

     streamlit run app.py

3. Interagieren Sie mit der App :

   • Öffnen Sie Ihren Browser und navigieren Sie zur bereitgestellten lokalen URL (z. B. http://localhost:8501 ).
   • Stellen Sie Fragen zum PDF -Inhalt und sehen Sie sich relevante Daten an.

Verzeichnisstruktur

• data/ : Enthält die zu verarbeitende PDF -Datei. Die Standarddatei ist ein VIT -Research -Papier.
• app.py : Hauptstromlit -Anwendungsdatei.
• requirements.txt : Liste der erforderlichen Python -Pakete.
• .env : Datei zum sicheren Speichern von API -Schlüssel.

Beitragen

Wir begrüßen Beiträge zur Verbesserung der Funktionalität und Leistung dieses Projekts. Bitte geben Sie das Repository aus und senden Sie eine Pull -Anfrage mit Ihren Änderungen. Stellen Sie sicher, dass Ihr Code den festgelegten Stilrichtlinien befolgt und alle Tests besteht.

Lizenz

Dieses Projekt ist unter der MIT -Lizenz lizenziert. Weitere Informationen finden Sie in der LICENSE .

Anerkennung

Besonderer Dank geht an die Entwickler und Mitwirkenden von Gemma 7B, GREQ und Strom für ihre leistungsstarken Werkzeuge und Unterstützung.

---

Fühlen Sie sich frei, dieses Repository zu erforschen, zu verwenden und beizutragen. Wenn Sie Fragen haben oder Hilfe benötigen, öffnen Sie bitte ein Problem.

Happy Coding!