Application de Fusion (Rag-Fusion) de Generation Fusion (Rag-Fusion) de récupération hors ligne avec Ollla, Langchain, Llama3-8b, Faish et Mistral-7B
Document de référence - https://arxiv.org/pdf/2402.03367
Ce projet met en œuvre une application complète de fusion de chiffon hors ligne pour la génération de texte et la récupération, tirant parti des ressources locales efficaces.
- Opération hors ligne: s'exécute entièrement sans connectivité Internet, idéal pour les scénarios avec un accès réseau limité ou peu fiable.
- Coût zéro: utilise des outils open-source disponibles gratuitement, minimisant les dépenses d'infrastructure.
- OLLAMA avec LLAMA3-8B LLM: Emploie Olllama pour une exécution hors ligne du puissant modèle de grande langue LLAMA3, permettant une génération efficace de texte.
- Base de données vectorielle FAISS: exploite Faish, une base de données vectorielle hors ligne haute performance, pour stocker et récupérer efficacement les intégres de documents.
- Étreindre les incorporations du visage: intègre des intégres pré-formés de l'étreinte Face pour la représentation sémantique des données textuelles.
- MultiQuateRriever: automatise le processus de réglage rapide en utilisant un LLM pour générer plusieurs requêtes à partir de différentes perspectives pour une requête d'entrée utilisateur donnée.
Commencer
Exécutez les commandes suivantes sur votre terminal.
Cloner ce référentiel.
git clone https://github.com/RionDsilvaCS/research-assistant-rag-fusion.git
Installez les dépendances requises (assurez-vous que vous êtes à l'intérieur du Dir Git)
pip install -r requirements.txt
Pour créer votre propre DB vectoriel
Configurer les paramètres du projet Assurez-vous que le Olllama fonctionne sur votre appareil. https://ollama.com/download
https://ollama.com/library/llama3
https://ollama.com/library/mistral
Maintenant, il est prêt à être exécuté
Pipeline de fusion de chiffon hors ligne
Boostez votre efficacité de recherche avec ces avantages puissants:
Cet assistant de recherche alimenté par Rag Fusion offre une multitude d'avantages pour élever votre jeu de recherche:
- Précision améliorée et compréhensivité: Rag-Fusion garantit que vos requêtes récupéreront les informations les plus pertinentes de votre corpus de recherche, favorisant une compréhension plus approfondie de votre sujet.
- Spark New Research Avenues: La génération multiple avec Langchain vous aide à découvrir des connexions cachées et à explorer diverses perspectives, ce qui conduit à des possibilités de recherche révolutionnaires.
- Flux de travail ininterrompu: Travaillez parfaitement hors ligne! Le magasin vectoriel maintient vos données de recherche facilement accessibles, éliminant le besoin d'une connexion Internet.
- Solution rentable: toutes les technologies utilisées dans ce projet sont open-source, ce qui en fait un puissant outil de recherche sans frais de licence.
- Amélioration de la productivité de la recherche: rationalisez votre processus de recherche en récupérant sans effort les informations pertinentes et en obtenant de nouvelles idées, en libérant un temps précieux pour l'analyse et l'exploration.
- Inspiration hors ligne: cet assistant de recherche devient votre compagnon constant, prêt à susciter l'inspiration et à guider votre parcours de recherche même sans connexion Internet.
Ces avantages ont combiné les chercheurs permettent aux chercheurs d'atteindre une plus grande efficacité, de débloquer de nouvelles avenues de recherche et, finalement, apportent des contributions importantes à leur domaine.
Suis-moi
Github @RIONDSILVACS · LinkedIn @Rion dsilva · Twitter @Rion_DSILVA_CS
