Aplicación RAG (Generación de recuperación de la recuperación) integrada con un asistente de voz y un sistema de gestión de la base de conocimiento.
Esta aplicación integra un modelo RAG (generación de recuperación auggada) con un asistente de voz, lo que permite a los usuarios interactuar con el sistema a través de la entrada de voz o texto. Además, incluye un sistema de gestión de la base de conocimiento, que permite a los usuarios agregar, ver y eliminar documentos utilizados por el modelo RAG a través de URL.
La aplicación se implementa en SimplipLit Share y se puede acceder a la siguiente URL:
Langchain es un marco diseñado para construir aplicaciones que aprovechan los modelos de idiomas. Proporciona herramientas para conectar modelos de lenguaje a fuentes de datos externas, lo que permite interacciones más complejas y contextuales.
La aplicación utiliza varios modelos Operai para proporcionar capacidades de conversación y recuperación de documentos:
gpt-3.5-turbo ) para generar respuestas basadas en consultas de usuario y contexto de conversación anterior.whisper-1 ) para el reconocimiento automático de voz para transcribir las entradas de audio de los usuarios. Además, Cohere Re-Ranker ( predeterminado: rerank-english-v2.0 ) para mejorar la relevancia de los documentos recuperados al volver a clasificarlos en función de su relevancia para la consulta.
Deeplake se usa como una tienda vectorial para almacenar y recuperar incrustaciones de documentos. Facilita la búsqueda y recuperación de similitud eficiente de documentos relevantes de la base de conocimiento.
APIFY es una plataforma de raspado y automatización web que permite la extracción de datos de los sitios web. Se utiliza para raspar documentos de URL proporcionados por los usuarios y almacenarlos en la base de conocimiento.
Streamlit es un marco de aplicaciones de código abierto que permite la creación de aplicaciones web personalizadas para proyectos de aprendizaje automático y ciencia de datos con un esfuerzo mínimo. Se utiliza aquí para construir la interfaz de usuario de la aplicación.
Para instalar la aplicación localmente, debe tener instalado Docker en su máquina. Luego, ejecute los siguientes comandos:
docker build -t rag-with-knowledge-base-management .docker run -p 8501:8501 rag-with-knowledge-base-managementLa aplicación ahora debe ser accesible en http: // localhost: 8501.
Asegúrese de agregar sus claves API al archivo .env antes de ejecutar la aplicación. Las siguientes claves en el interior .env.example deben completarse:
OPENAI_API_KEY - Clave API de OpenAICOHERE_API_KEY - tecla API de cohereAPIFY_API_TOKEN - APIFY API TokenACTIVELOOP_TOKEN - Token API de ActiveloopACTIVELOOP_ORG_ID - ID de organización de activelopelop Distribuido bajo la licencia Apache 2.0 de código abierto. Vea LICENSE para más información.
Los siguientes repositorios fueron útiles para construir este proyecto: