Doc Quest

¿Docquest ?: Sistema de generación de recuperación interna (trapo)

¿Cómo podemos diseñar y optimizar un sistema RAG para proporcionar resultados personalizados y ricos en referencia para los equipos de ciencia de datos, al tiempo que gestionamos los paquetes internos, en un entorno fuera de línea?

Para desglosar más:

• Salida personalizada con referencias: Investigue cómo el sistema RAG puede aprovechar la información específica del contexto para generar salidas personalizadas para los científicos de datos. Explore los métodos para incluir referencias precisas y relevantes en el contenido generado.
• Sistema de fuera de línea interno: Examine los requisitos técnicos y las limitaciones de implementar un sistema de RAG en un entorno fuera de línea. Evaluar los desafíos relacionados con el almacenamiento de datos, el procesamiento y las actualizaciones del modelo sin conectividad a Internet.
• Gestión de paquetes internos: analizar estrategias para integrar y administrar paquetes de ciencia de datos patentados dentro del sistema RAG. Busque los problemas de compatibilidad, el control de versiones y la gestión de la dependencia para garantizar una operación e integración perfecta.

Descripción general:

Docquest es un sistema de generación (RAG) de recuperación (RAG) fuera de línea diseñado para equipos de ciencia de datos. Proporciona resultados personalizados y ricos en referencia mientras opera en entornos sin conectividad a Internet. Este sistema es ideal para configuraciones seguras donde la privacidad de los datos es primordial.

Características:

• Operación fuera de línea : sistema de trapo completamente funcional que funciona sin conectividad a Internet
• Preprocesamiento de documentos avanzados : tubería robusta para manejo eficiente de documentos y extracción de contenido
• Almacenamiento de incrustaciones y vectores de última generación : incorpora múltiples modelos de incrustación y soluciones de almacenamiento vectorial
• Pipeline de RAG optimizado : incluye procesamiento de consultas inteligentes y recuperación de documentos de alta precisión
• Interfaz fácil de usar: interfaz de usuario basada en rayas para facilitar la interacción

Fuentes de datos:

El sistema integra la documentación de múltiples fuentes, que incluyen:

• Pandas
• Numpy
• Lear

Estructura de carpeta:

 DOC-QUEST/
│
├── data/                           # Folder for data/documents
│   ├── documents/                  # Raw or processed document storage
│   └── vector_db/                  # Vector databases
│       ├── child_docs/             # Child documents
│       └── parent_docs/            # Parent documents
│
├── notebooks/                      # Jupyter notebooks for prototyping and experimentation
│   ├── 1_documentation_download.ipynb
│   ├── 2_document_pre_processing.ipynb
│   ├── 3_embedding_vector_save_gpu.ipynb
│   ├── 4_conversation_rag.ipynb
│   ├── data_wrangling.ipynb
│   └── rag_v1.ipynb
│
├── src/                            # Core source code for pipeline components
│   ├── 1_documentation_download.py
│   ├── 2_document_pre_processing.py
│   ├── 3_embedding_vector_save_gpu.py
│   ├── 4_conversation_rag.py
│
├── .gitignore                      # Specifies files/folders to ignore in version control
├── doc_quest_app.py                # DocQuest UI streamlit application
├── README.md                       # Project documentation
└── requirements.txt                # Dependencies for the project

Instalación:

1. Clon el repositorio:

    git clone https://github.com/shrivastavasatyam/Doc-Quest.git
   cd Doc-Quest
   

2. Configurar un entorno virtual:

    python3 -m venv .venv
   source .venv/bin/activate
   

3. Instalar dependencias:

    pip install -r requirements.txt
   

4. Configurar la tecla API: configure su tecla API Groq como una variable de entorno:

    export GROQ_API_KEY=your_groq_api_key
   

   O agréguelo directamente en el archivo doc_quest_app.py :

    os . environ [ "GROQ_API_KEY" ] = "your_groq_api_key"

5. Prepare las rutas de documentos: asegúrese de que sus rutas de documento estén correctamente establecidas en el archivo doc_quest_app.py :

    parent_doc_path = "/path/to/your/parent_docs"
   child_doc_path = "./path/to/your/child_docs" 

Uso:

1. Inicie la aplicación Streamlit:

    streamlit run doc_quest_app.py
   

2. Acceda a la interfaz web en la URL proporcionada por Streamlit (generalmente http://localhost:8501 ).

3. Use la interfaz de chat para hacer preguntas e interactuar con el sistema RAG.

Componentes del sistema:

• Preprocesamiento de documentos : utiliza bshtmlloader y beautifulsoup para extracción de contenido
• Modelos de incrustación : GTE-Large-En-V1.5, GTE-Large, Stella_en_400m_v5
• Almacenamiento vectorial : Chroma, Faiss
• Generación de texto : utiliza el modelo LLAMA-3.1-70B

Mejoras futuras:

• Implementación del almacenamiento del historial de chat.
• Optimizando aún más el componente de recuperación.
• Agregar enlaces anclados para la navegación directa a secciones de documentos relevantes.
• Introducción de múltiples opciones de selección de modelos generativos en la interfaz de usuario.