ContextQA

Converse com seus dados, aproveitando o poder dos bancos de dados LLMS e Vector

---

O ContextQA é um utilitário moderno que fornece um aplicativo de LLM pronto para uso. Ele é construído sobre os gigantes como FASTAPI, Langchain e Abraçando o rosto.

Os principais recursos incluem:

• CHAT regular suportando expansão de conhecimento via acesso à Internet
• QA de conversação com fontes relevantes
• Respostas de streaming
• Ingestão de fontes de dados usadas em sessões de controle de qualidade
• Gerenciamento de fontes de dados
• Configurações de LLM: Configurar parâmetros como provedor, modelo, temperatura etc. Atualmente, os provedores suportados são OpenAI e Google
• Configurações do banco de dados vetoriais. Ajuste parâmetros como motor, tamanho de bloco, sobreposição de pedaços, etc. Atualmente, os motores suportados são Chromadb e Pinecone
• Outras configurações: Escolha Memória LLM incorporada ou externa ( Redis ), diretório de mídia, credenciais de banco de dados, etc.

Instalação

pip install contextqa

Uso

Na instalação, o contextQA fornece uma ferramenta da CLI

contextqa init

Confira os parâmetros disponíveis executando o seguinte comando

contextqa init --help

Exemplo

Execute

$ contextqa init

2024-08-28 01:00:39,586 - INFO - Using SQLite
2024-08-28 01:00:47,850 - INFO - Use pytorch device_name: cpu
2024-08-28 01:00:47,850 - INFO - Load pretrained SentenceTransformer: sentence-transformers/all-mpnet-base-v2
INFO:     Started server process [20658]
INFO:     Waiting for application startup.
2024-08-28 01:00:47,850 - INFO - Running initial migrations...
2024-08-28 01:00:47,853 - INFO - Context impl SQLiteImpl.
2024-08-28 01:00:47,855 - INFO - Will assume non-transactional DDL.
2024-08-28 01:00:47,860 - INFO - Running upgrade  - > 0bb7d192c063, Initial migration
2024-08-28 01:00:47,862 - INFO - Running upgrade 0bb7d192c063 - > b7d862d599fe, Support for store types and related indexes
2024-08-28 01:00:47,864 - INFO - Running upgrade b7d862d599fe - > 3058bf204a05, unique index name
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8080 (Press CTRL+C to quit)

Verifique

Abra seu navegador em http: // localhost: 8080. Você verá o passo de inicialização que o guiará através das configurações iniciais

Ou a visão principal do contextqa - se a configuração inicial já foi definida

Diretriz

Para obter instruções de uso detalhadas, consulte as diretrizes de uso.

Contribuindo

Congratulamo -nos com contribuições para o contextqa ! Para começar, consulte nosso arquivo contribuinte.md para obter diretrizes sobre como contribuir. Seus comentários e contribuições nos ajudam a melhorar e aprimorar o projeto. Obrigado pelo seu interesse em contribuir!