QnA With RAG

Qna-with-rag

? Descrição do projeto

O QNA-WITH-RAG é um aplicativo de pilha completa que transforma documentos de texto em contexto de grandes modelos de idiomas (LLMS) para referência durante os bate-papos. Você pode adicionar facilmente, excluir documentos e criar várias bases de conhecimento.

Propósito e objetivos

Este projeto tem como objetivo criar um chatbot pronto para produção usando a API OpenAI. Ele incorpora o VectordB e o Langsmith para melhorar sua funcionalidade.

Tecnologias usadas

Características

• Conversar com arquivos de texto
• Streaming chat
• Carregue vários arquivos de texto
• Mantenha um db de vetor (adicione/excluir arquivos)
• Autenticação de token da API estática para Chromadb
• Crie várias bases de conhecimento

Fluxo de aplicativos

? Demonstração

Assista a uma demonstração do aplicativo aqui.

Desenvolvimento futuro

As atualizações futuras incluirão:

• React.js Frontend Integration
• Recursos aprimorados do Chromadb (filtragem, pesquisa)
• Recursos de memória para o chatbot

▶ ️ Instalação e configuração

1. Clone o repositório

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. Configurar variáveis ​​de ambiente

   Crie um arquivo .env com o seguinte conteúdo:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. Construa e execute o aplicativo

   Execute o seguinte comando:

   docker-compose up -d --build

4. Acesse o aplicativo

   Abra seu navegador da web e vá ao localhost para começar a usar o aplicativo.

5. Configuração Nginx

   • O NGINX atua como um proxy reverso, roteando solicitações para os serviços apropriados e manuseando HTTPS (se configurado).
   • Verifique se os arquivos de configuração do NGINX estão configurados corretamente no diretório nginx para obter o melhor desempenho.

? Perguntas frequentes

• O que devo fazer se encontrar problemas?

  • Verifique os logs usando docker-compose logs para solucionar problemas.

• Como posso contribuir?

  • Sinta -se à vontade para abrir problemas ou enviar solicitações de puxão no Github!

Aproveite o uso do aplicativo! :)