Download research assistant rag fusion - Download research assistant rag fusion Quellcode

research assistant rag fusion

Anderer Quellcode

1.0.0

Herunterladen

Offline-Retrieval-Augmented Generation Fusion (RAG-Fusion) -Anwendung mit Ollama, Langchain, Lama3-8b, Faiss und Mistral-7b

RAG-Fusion_diagram

Referenzpapier - https://arxiv.org/pdf/2402.03367

Dieses Projekt implementiert eine vollständige Offline-Lag-Fusions-Anwendung für die Erzeugung und das Abrufen von Text und nutzt effiziente lokale Ressourcen.

Offline -Betrieb: Läuft vollständig ohne Internetverbindung, ideal für Szenarien mit begrenztem oder unzuverlässigem Netzwerkzugriff.
Nullkosten: Verwendet frei verfügbare Open-Source-Tools, wodurch die Infrastrukturkosten minimiert werden.
Ollama mit LLAMA3-8B LLM: Verwendet Ollama für die Offline-Ausführung des leistungsstarken Llama3-Großsprachenmodells und ermöglicht eine effektive Textgenerierung.
Faiss Vector-Datenbank: Nutzt Faiss, eine Hochleistungs-Offline-Vektor-Datenbank, um Dokumentenbettendings effizient zu speichern und abzurufen.
Umarmende Gesichtsbettendings: Integriert vorgeschaltete Einbettungen vom Umarmungsgesicht für die semantische Darstellung von Textdaten.
MultiquyRetriever: Automatisiert den Prozess des schnellen Tunings mithilfe eines LLM, um mehrere Abfragen aus verschiedenen Perspektiven für eine bestimmte Eingabebestellung zu generieren.

Erste Schritte

Führen Sie die folgenden Befehle auf Ihrem Terminal aus.

Klonen Sie dieses Repository.

 git clone https://github.com/RionDsilvaCS/research-assistant-rag-fusion.git

Installieren Sie die erforderlichen Abhängigkeiten (stellen Sie sicher, dass Sie sich in der Git -Dire befinden)

 pip install -r requirements.txt

Um Ihren eigenen Vektor DB zu erstellen

 cd DB

Konfigurieren Sie Projekteinstellungen Stellen Sie sicher, dass das Ollama auf Ihrem Gerät ausgeführt wird. https://ollama.com/download

https://ollama.com/library/llama3

https://ollama.com/library/mistal

Jetzt ist everhying bereit zu laufen

 cd APP

 streamlit run app.py

Antwort img1

Offline-Lag-Fusion-Pipeline

fließen

Steigern Sie Ihre Forschungseffizienz mit diesen starken Vorteilen:

Dieser Forschungsassistent mit Ragfusionsantrieb bietet eine Vielzahl von Vorteilen, um Ihr Forschungsspiel zu verbessern:

Verbesserte Genauigkeit und Vollständigkeit: Rag-Fusion stellt sicher, dass Ihre Abfragen die relevantesten Informationen aus Ihrem Forschungskorpus abrufen und ein tieferes Verständnis Ihres Themas fördern.
Spark New Research Avenues: Multiquery -Generation mit Langchain hilft Ihnen, verborgene Verbindungen aufzudecken und verschiedene Perspektiven zu erkunden, was zu bahnbrechenden Forschungsmöglichkeiten führt.
Ununterbrochener Workflow: Arbeitlos offline arbeiten! Der Vektor Store hält Ihre Forschungsdaten leicht zugänglich und beseitigt die Notwendigkeit einer Internetverbindung.
Kosteneffektive Lösung: Alle in diesem Projekt verwendeten Technologien sind Open-Source, was dies zu einem leistungsstarken Forschungsinstrument ohne Lizenzgebühren macht.
Verbesserte Forschungsproduktivität: Stürzen Sie Ihren Forschungsprozess, indem Sie mühelos relevante Informationen abrufen und neue Erkenntnisse gewinnen, wodurch wertvolle Zeit für Analyse und Erkundung freigegeben wird.
Offline -Inspiration: Dieser Forschungsassistent wird zu Ihrem ständigen Begleiter, der bereit ist, Inspiration zu erörtern und Ihre Forschungsreise auch ohne Internetverbindung zu leiten.

Diese Vorteile ermöglichen die Forscher, eine größere Effizienz zu erreichen, neue Forschungswege freizuschalten und letztendlich erhebliche Beiträge zu ihrem Gebiet zu leisten.