Doc Quest

DocQuest?

Comment pouvons-nous concevoir et optimiser un système de chiffon pour fournir des sorties personnalisées riches en référence pour les équipes de science des données, tout en gérant des packages internes, dans un environnement hors ligne?

Pour le décomposer davantage:

• Sortie personnalisée avec références: étudiez comment le système RAG peut tirer parti des informations spécifiques au contexte pour générer des sorties sur mesure pour les scientifiques des données. Explorez des méthodes pour inclure des références précises et pertinentes dans le contenu généré.
• Système hors ligne interne: examinez les exigences techniques et les contraintes de déploiement d'un système de chiffon dans un environnement hors ligne. Évaluez les défis liés au stockage, au traitement et aux mises à jour du modèle sans connectivité Internet.
• Gestion des packages internes: Analyser les stratégies d'intégration et de gestion des packages de sciences de données propriétaires dans le système RAG. Examinez les problèmes de compatibilité, le contrôle des versions et la gestion des dépendances pour assurer un fonctionnement et une intégration transparentes.

Aperçu:

DocQuest est un système de génération (RAG) de récupération hors ligne conçu pour les équipes de science des données. Il fournit des sorties personnalisées riches en référence tout en fonctionnant dans des environnements sans connectivité Internet. Ce système est idéal pour les paramètres sécurisés où la confidentialité des données est primordiale.

Caractéristiques:

• Opération hors ligne : système de chiffon entièrement fonctionnel qui fonctionne sans connectivité Internet
• Prétraitement des documents avancés : pipeline robuste pour une gestion efficace des documents et une extraction de contenu
• Stockage d'intégration et de vecteur de pointe : intègre plusieurs modèles d'intégration et solutions de stockage vectorielles
• Pipeline de chiffon optimisé : comprend un traitement de requête intelligent et une récupération de documents de haute précision
• Interface conviviale : UI basé sur les rationalisations pour une interaction facile

Sources de données:

Le système intègre la documentation à partir de plusieurs sources, notamment:

• Pandas
• Nombant
• Scikit-apprend

Structure du dossier:

 DOC-QUEST/
│
├── data/                           # Folder for data/documents
│   ├── documents/                  # Raw or processed document storage
│   └── vector_db/                  # Vector databases
│       ├── child_docs/             # Child documents
│       └── parent_docs/            # Parent documents
│
├── notebooks/                      # Jupyter notebooks for prototyping and experimentation
│   ├── 1_documentation_download.ipynb
│   ├── 2_document_pre_processing.ipynb
│   ├── 3_embedding_vector_save_gpu.ipynb
│   ├── 4_conversation_rag.ipynb
│   ├── data_wrangling.ipynb
│   └── rag_v1.ipynb
│
├── src/                            # Core source code for pipeline components
│   ├── 1_documentation_download.py
│   ├── 2_document_pre_processing.py
│   ├── 3_embedding_vector_save_gpu.py
│   ├── 4_conversation_rag.py
│
├── .gitignore                      # Specifies files/folders to ignore in version control
├── doc_quest_app.py                # DocQuest UI streamlit application
├── README.md                       # Project documentation
└── requirements.txt                # Dependencies for the project

Installation:

1. Clone le référentiel:

    git clone https://github.com/shrivastavasatyam/Doc-Quest.git
   cd Doc-Quest
   

2. Configurer un environnement virtuel:

    python3 -m venv .venv
   source .venv/bin/activate
   

3. Installez les dépendances:

    pip install -r requirements.txt
   

4. Configurer la clé de l'API: configurez votre touche API GROQ en tant que variable d'environnement:

    export GROQ_API_KEY=your_groq_api_key
   

   Ou ajoutez-le directement dans le fichier doc_quest_app.py :

    os . environ [ "GROQ_API_KEY" ] = "your_groq_api_key"

5. Préparer les chemins de document: assurez-vous que vos chemins de document sont correctement définis dans le fichier doc_quest_app.py :

    parent_doc_path = "/path/to/your/parent_docs"
   child_doc_path = "./path/to/your/child_docs" 

Usage:

1. Lancez l'application Streamlit:

    streamlit run doc_quest_app.py
   

2. Accédez à l'interface Web à l'URL fournie par Streamlit (généralement http://localhost:8501 ).

3. Utilisez l'interface de chat pour poser des questions et interagir avec le système de chiffon.

Composants système:

• Prétraitement des documents : utilise BSHTMLLOADER et BeautifulSoup pour l'extraction de contenu
• Modèles d'incorporation : GTE-Large-en-V1.5, GTE-Large, Stella_en_400m_v5
• Stockage vectoriel : chroma, Faiss
• Génération de texte : utilise le modèle LLAMA-3.1-70B

Améliorations futures:

• Implémentation de stockage d'historique de chat.
• Optimiser davantage le composant de récupération.
• Ajout de liens ancrés pour la navigation directe aux sections de documents pertinentes.
• Présentation de plusieurs options de sélection de modèle génératives dans l'interface utilisateur.