QnA With RAG

QNA-With-Rag

? Descripción del proyecto

QNA-With-Rag es una aplicación de pila completa que transforma los documentos de texto en contexto para modelos de idiomas grandes (LLM) para hacer referencia durante los chats. Puede agregar fácilmente, eliminar documentos y crear múltiples bases de conocimiento.

Propósito y objetivos

Este proyecto tiene como objetivo crear un chatbot listo para la producción utilizando la API de OpenAI. Incorpora VectordB y Langsmith para mejorar su funcionalidad.

Tecnologías utilizadas

Características

• Chatear con archivos de texto
• Chat de transmisión
• Cargar varios archivos de texto
• Mantener un Vector DB (ADD/Eliminar archivos)
• Autenticación de token API estático para ChromadB
• Crear múltiples bases de conocimiento

Flujo de aplicaciones

? Manifestación

Mire una demostración de la aplicación aquí.

Desarrollo futuro

Las actualizaciones futuras incluirán:

• React.js Frontend Integration
• Características mejoradas de ChromAdB (filtrado, búsqueda)
• Capacidades de memoria para el chatbot

▶ ️ Instalación y configuración

1. Clonar el repositorio

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. Configurar variables de entorno

   Cree un archivo .env con el siguiente contenido:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. Construir y ejecutar la aplicación

   Ejecutar el siguiente comando:

   docker-compose up -d --build

4. Acceder a la aplicación

   Abra su navegador web y vaya a localhost para comenzar a usar la aplicación.

5. Configuración de Nginx

   • Nginx actúa como un proxy inverso, las solicitudes de enrutamiento a los servicios apropiados y el manejo de HTTP (si está configurado).
   • Asegúrese de que sus archivos de configuración de Nginx se configuren correctamente en el directorio nginx para un rendimiento óptimo.

? Preguntas frecuentes

• ¿Qué debo hacer si encuentro problemas?

  • Verifique los registros utilizando docker-compose logs para la resolución de problemas.

• ¿Cómo puedo contribuir?

  • ¡No dude en abrir problemas o enviar solicitudes de extracción en GitHub!

¡Disfruta usando la aplicación! :)