WhisperMesh

Flüstermesh?

Whispermesh ist Ihr hochmoderner Chatbot, der nahtlos Sprach- und Textinteraktionen kombiniert und ein reichhaltiges, intuitives Gesprächserlebnis erzeugt. Mit der Leistung von LLM -Modellen und einer ausgefeilten Vektordatenbank versteht WhisperMesh Ihre Anforderungen wie nie zuvor und liefert maßgeschneiderte Antworten, die Ihre Abfragen ansprechen.

Unsere App nutzt das Rag-Framework von Haystack und zeichnet relevante Informationen aus und sorgt dafür, dass jede Interaktion nicht nur ansprechend, sondern auch datengesteuert ist. Egal, ob Sie es vorziehen, zu sprechen oder zu tippen, Whispermesh passt sich Ihrem Stil an und verwandelt Ihre Eingabe in aufschlussreiche Antworten mit einer persönlichen Note.

Schließen Sie sich dem Gespräch mit Whispermesh an, wo Ihre Stimme wichtig ist, und lassen Sie sich von uns durch eine Welt des Wissens und der Entdeckung führen! ?

Technische Architektur

Die Architektur skizziert eine in das Haystack -Framework integrierte optimale Anwendung, um das Hochladen, Abfragen und die Reaktionsgenerierung von Dokumenten zu erleichtern. Benutzer laden PDF -Dokumente über die App hoch, die dann von Haystack -Komponenten verarbeitet und indiziert werden, einschließlich Dokumentenreiniger, Splitter und Einbetten, die Dokumente unter Verwendung des in der QDRant Vector -Datenbank gespeicherten Cohere -Modells in Vektordarstellungen umwandeln. Wenn ein Benutzer eine Sprachabfrage einreicht, wird er in Text transkribiert, in einen Vektor eingebettet und gegen die gespeicherten Dokumentvektoren angepasst, um relevante Teile abzurufen. Diese Brocken werden in das Genma 7B -Generative -Modell eingespeist, um eine kohärente Antwort zu generieren, die dann für die Benutzerausgabe in Audio umgewandelt wird. Dieses System nutzt erweiterte NLP -Techniken, um ein effizientes und genaues Abrufen von Dokumenten und die Reaktionsgenerierung zu gewährleisten.

Schlüsselmerkmale

1. Nahlose Sprach- und Textinteraktionen

WhisperMesh bietet ein modernes Gesprächserlebnis, indem Sie Sprach- und Texteingaben mischen, sodass Sie so kommunizieren können, wie Sie es am besten entsprechen.

2. Fortgeschrittene LLM -Integration

WhisperMesh wird von hochmodernen Großsprachmodellen (LLMs) angetrieben. Er versteht Ihre Bedürfnisse zutiefst und bietet maßgeschneiderte Antworten, die Ihre Anfragen ansprechen.

3. Intelligente Vektordatenbank

Die Verwendung von QDRANT als unsere Vektor-Datenbank verwaltet und ruft relevante Informationen effizient verwaltet und ruft, um datengesteuerte Interaktionen sicherzustellen, die das Einbindung des Benutzers verbessern.

4. Cohere -Einbettungsmodell

Unsere Anwendung nutzt das Cohere -Einbettungsmodell für ein effektives semantisches Verständnis und sorgt dafür, dass jede Interaktion aufschlussreich und kontextuell bewusst ist.

5. Robuste Sprach-zu-Text-Funktionen

Mit dem Flüsterlarge-V3- Modell aus der GROQ-Cloud zeichnet sich Whispermesh bei der Konvertierung von Sprache in Text aus und macht Sprachinteraktionen reibungslos und genau.

6. Generatives Modell für personalisierte Antworten

Unsere App verwendet das Gemma-7b-It- Modell aus COQ Cloud und generiert personalisierte Antworten und fügt jeder Gespräch eine einzigartige Note hinzu.

7. RAG-Framework für datengesteuerte Erkenntnisse

Nutzung des Rahmens für Lappen (retrieval-augmented Generation) von Haystack zeichnet sich aus, um relevante Informationen zu extrahieren, um sicherzustellen, dass Ihre Interaktionen ansprechend und informativ sind.

Wie es funktioniert

? Schritt 1: Laden Sie Ihre PDF -Dokumente hoch und indizieren Sie sie

• Optionen hochladen: Ziehen Sie Ihre Dateien ab und löschen Sie sie oder klicken Sie auf "Durchsuchen Sie Dateien", um sie auszuwählen. (Maximale Dateigröße: 200 MB ).
• Indexierung starten: Klicken Sie auf '? Indexdokument ' Schaltfläche zum Initiieren des Indexierungsprozesses.

Schritt 2: Wählen Sie Ihre Chat -Methode aus

• Entscheiden Sie, ob Sie es vorziehen, über Text oder Stimme zu chatten.

Schritt 3: Stellen Sie Ihre Fragen

• Texteingabe: Verwenden Sie das folgende Textfeld, um Ihre Frage einzugeben.
• Spracheingabe: Klicken Sie auf das Symbol für Mikrofon, um Fragen mit Ihrer Stimme zu stellen.

Erste Schritte

Voraussetzungen

• Python 3.11 oder höher?
• COQ API für Inferenz, das derzeit kostenlos in seiner Beta -Version mit Tarifbegrenzungen erhältlich ist. Nach dem Erstellen eines Kontos können Sie hier Ihren API -Schlüssel erhalten: GROQ -API.
• Zusätzlich haben Sie die Möglichkeit, QDRant entweder lokal oder über QDRant Cloud zu verwenden. Die API ist auch frei zu verwenden. Greifen Sie hier zu darauf zu: QDrant Cloud.
• Für Einbettungen können Sie die Cohere -API verwenden. Es bietet eine kostenlose Stufe und Sie können sich hier anmelden und Ihren API -Schlüssel erhalten: Cohere API.

Lokale Bereitstellung

1. Klonen Sie das Repository klonen

git clone https://github.com/Mouez-Yazidi/WhisperMesh.git
cd WhisperMesh

2. Umgebungsvariablen hinzufügen

• Erstellen Sie eine .env -Datei und fügen Sie die folgenden Variablen gemäß den Anmeldeinformationen hinzu, die Sie von den erforderlichen Plattformen erhalten haben:

   COHERE_API_KEY=
  GROQ_API=
  GROQ_KEY=
  QDRANT_API=
  QDRANT_KEY=
  

3. Installieren Sie Abhängigkeiten

Navigieren Sie zum lokalen Verzeichnis und installieren Sie die erforderlichen Abhängigkeiten:

 cd local
pip install -r requirements.txt

4. Ausführen der App lokal ausführen

Um die App lokal auszuführen, führen Sie den folgenden Befehl aus:

streamlit run ../app/main.py --environment local

Sie sollten jetzt in der Lage sein, auf die App unter http: // localhost: 8501 zugreifen zu können.

? Optional: mit Docker laufen

Wenn Sie es vorziehen, die App in einem Docker -Container auszuführen, befolgen Sie die folgenden Schritte:

1. Stellen Sie sicher, dass Sie Docker installiert haben?
2. Erstellen Sie das Docker -Bild:

docker build -t whispermesh -f Dockerfile  ..

3. Führen Sie den Container aus:

docker run -p 8501:8501 whispermesh streamlit run main.py --environment local

☁️ optimale Cloud -Bereitstellung

1. Bereiten Sie Ihr Repository vor

Stellen Sie sicher, dass Ihr Code in ein Github -Repository gedrückt wird.

2. Verknüpfung mit streamliter Cloud

• Besuchen Sie die Streamlit Cloud und melden Sie sich an.
• Schließen Sie Ihr Github -Repository an?
• Wählen Sie Ihr Repository und Ihren Zweig.

3. Umgebungsvariablen

• Gehen Sie in den Abschnitt "Erweiterte Einstellungen" Ihrer App.
• Geben Sie im Abschnitt "Geheimnisse" sensible Informationen wie API -Schlüssel oder andere Anmeldeinformationen ein.
• Fügen Sie diese Variablen nach den Anmeldeinformationen hinzu, die Sie von den erforderlichen Plattformen erhalten haben.

COHERE_API_KEY = " "
GROQ_API = " "
GROQ_KEY = " "
QDRANT_API = " "
QDRANT_KEY = " "

Streamlit Cloud wird:

• Abhängigkeiten von Cloud/Anforderungen.txt installieren?

? Sie sind alle gesetzt! Ihre App wird jetzt live in der streamlosen Cloud sein!

? Merkmale

• Konfigurierbar: Separate Konfigurationsdateien für die lokale und Cloud -Bereitstellung.
• Docker -Unterstützung: Bereitstellen Sie die App mit Docker für die lokale Containerisierung ein.

Zeigen Sie Ihre Unterstützung!

Wenn Sie dieses Projekt zu schätzen wissen, wäre ich dankbar, wenn Sie es auf Github einen Stern geben könnten. Ihre Unterstützung motiviert uns, unsere Arbeit zu verbessern und zu erweitern!

? Lizenz

Dieses Projekt ist unter der MIT -Lizenz lizenziert. Weitere Informationen finden Sie in der Lizenzdatei.

? Kontakt

Wenn Sie Fragen oder Vorschläge haben, können Sie sich gerne ein Problem eröffnen oder uns unter [email protected] kontaktieren.