HelloPDF

Hellopdf - Chat PDF implantável GPT -4

Execute e implante um chatbot alimentado por GPT-4 em minutos!

Utiliza o Chromadb para o seu VectorStore, com um Frontend Next.js.

Desenvolvimento

1. Instale o Docker Desktop para sua plataforma.

2. Clone o repositório ou faça o download do zip

 git clone [github https url]

3. Instale pacotes

Primeiro execute npm install yarn -g para instalar o YARN globalmente (se você ainda não o fez).

Em seguida, corra:

 yarn install

Após a instalação, agora você deve ver uma pasta node_modules .

4. Configure seu arquivo .env

• Copy .env.example em .env seu arquivo .env deve ser assim:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• Visite o OpenAI para recuperar as teclas da API e inserir seu arquivo .env .
• Escolha um nome de coleção em que você deseja armazenar suas incorporações no Chroma. Esta coleção será posteriormente usada para consultas e recuperação.
• Detalhes do Chroma

5. Dependendo da sua configuração, pode ser necessário modificar app/api/files/utilities.ts para se conectar à instância do Chromadb correta.

6. Em uma nova janela do terminal, execute o Chroma no recipiente do docker:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

Execute o aplicativo

Você pode executar o aplicativo com npm run dev para iniciar o ambiente de desenvolvimento local e, em seguida, fazer upload de um ou muitos arquivos PDF para conversar. Após o upload, você poderá conversar com o modelo.

Implantação Chromadb

A pasta Terraform contém scripts originalmente de chromadb/examples . Para implantar seu Chromadb no GCP, faça o seguinte:

1. Instale a GCP CLI, faça login via CLI e crie um novo projeto. Observe o ID do projeto.

2. Instale a CLI da Terraform.

3. Atualize terraform/exportapply.sh com sua variável de identificação do projeto.

4. (Opcional) Gere um teclado se você deseja poder entrar na instância do GCP.

5. Execute exportapply.sh em seu terminal.

6. Execute terraform output instance_public_ip . Tome nota do IP de saída e atualize seu .env .

7. Execute terraform output chroma_auth_token . Tome nota do seu token de autenticação e atualize seu .env .

8. (Opcional) Leva algum tempo para a instância do GCP aparecer, para que você possa verificar o status com

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. A API agora deve ser capaz de se conectar com sua instância do Chromadb, depende de GCP para operações de loja de vetores.

Solução de problemas

Em geral, fique de olho na seção de issues e discussions deste repositório para soluções.

Erros gerais

• Verifique se você está executando a versão mais recente do nó. Execute node -v
• Experimente um PDF diferente ou converta seu PDF para enviar o texto primeiro. É possível que seu PDF esteja corrompido, digitalizado ou exige que o OCR seja convertido em texto.
• Console.log as variáveis env e verifique se elas estão expostas.
• Verifique se você criou um arquivo .env que contém suas teclas de API válidas (e funcionando), nome do ambiente e nome do índice.
• Se você alterar modelName no OpenAI , verifique se você tem acesso à API para o modelo apropriado.
• Certifique -se de ter créditos OpenAI suficientes e um cartão válido na sua conta Billings.
• Verifique se você não possui várias teclas OpenAPI em seu ambiente global. Se o fizer, o arquivo env local do projeto será substituído pela variável env Env.
• Tente codificar suas chaves da API no process.env .

Créditos

Originalmente bifurcado em https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chroma