ragapp

A maneira mais fácil de usar o Agentic Rag em qualquer empresa.

Por mais simples de configurar os GPTs personalizados do OpenAI, mas implantáveis ​​em sua própria infraestrutura de nuvem usando o Docker. Construído usando Llandeindex.

Começar · terminais · implantação · Contato

Comece

Para executar, inicie um recipiente do Docker com nossa imagem:

docker run -p 8000:8000 ragapp/ragapp

Em seguida, acesse a interface do usuário do administrador em http: // localhost: 8000/admin para configurar seu ragapp.

Você pode usar modelos de IA hospedados do Openai ou Gêmeos e modelos locais usando Ollama.

NOTA : Para evitar a conclusão de erros, recomendamos o uso da versão mais recente do Docker e (se necessário) o Docker Compose.

Pontos de extremidade

O contêiner do Docker expõe os seguintes pontos de extremidade:

• Admin UI: http: // localhost: 8000/admin
• UI de bate -papo: http: // localhost: 8000
• API: http: // localhost: 8000/docs

NOTA : A interface do usuário e a API de bate -papo só estão funcionais se o ragapp estiver configurado.

Segurança

Autenticação

Apenas o contêiner RAGAPP não vem com nenhuma camada de autenticação por design. Esta é a tarefa de um gateway de API rotear o tráfego para Ragapp. Esta etapa depende muito do seu provedor de nuvem e dos serviços que você usa. Para um ambiente de composição pura do Docker, você pode olhar para o nosso RagApp com a implantação da interface do usuário de gerenciamento.

Autorização

As versões posteriores do RAGAPP suportarão restringir o acesso com base nos tokens de acesso encaminhados de um gateway da API ou similares.

Implantação

Usando o Docker compor

Você pode implantar facilmente o RAGAPP em sua própria infraestrutura com uma dessas implantações do Docker compor:

1. Ragapp com ollama e qdrant
2. Múltiplos ragapps com uma interface de administração

Kubernetes

É fácil implantar o RAGAPP em sua própria infraestrutura em nuvem. Os descritores personalizados de implantação de K8S estão chegando em breve.

Desenvolvimento

Ragapp:

IMPORTANTE : Partes do código-fonte deste projeto são recuperadas dinamicamente do projeto Create-Llama. Antes de comprometer as alterações, atualize o código-fonte ligando make build-frontends .

Mova para o diretório SRC/RAGAPP e comece com estes comandos:

 export ENVIRONMENT=dev
poetry install --no-root
make build-frontends
make dev

Em seguida, para conferir a interface do usuário do administrador, acesse http: // localhost: 3000/admin.

Nota : verifique se você tem poesia instalada.

Contato

Perguntas, solicitações de recursos ou encontrou um bug? Abra um problema ou entre em contato com Marcusschiesser.

História da estrela