HelloPDF

HelloPdf - Chat PDF propulsé par GPT-4 déployable

Exécutez et déployez un chatbot alimenté par GPT-4 en quelques minutes!

Utilise ChromAdB pour son VectorStore, avec un frontend Next.js.

Développement

1. Installez Docker Desktop pour votre plate-forme.

2. Cloner le repo ou télécharger le zip

 git clone [github https url]

3. Installer des packages

Exécutez d'abord npm install yarn -g pour installer du fil globalement (si vous ne l'avez pas déjà fait).

Puis courez:

 yarn install

Après l'installation, vous devriez maintenant voir un dossier node_modules .

4. Configurez votre fichier .env

• Copier .env.example dans .env Votre fichier .env devrait ressembler à ceci:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• Visitez Openai pour récupérer les clés API et insérer dans votre fichier .env .
• Choisissez un nom de collection où vous souhaitez stocker vos intérêts dans le chroma. Cette collection sera plus tard utilisée pour les requêtes et la récupération.
• Détails de chroma

5. Selon votre configuration, vous devrez peut-être modifier app/api/files/utilities.ts pour vous connecter à la bonne instance chromadb.

6. Dans une nouvelle fenêtre de terminal, exécutez le chroma dans le conteneur Docker:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

Exécutez l'application

Vous pouvez exécuter l'application avec npm run dev pour lancer l'environnement de développement local, puis télécharger un ou plusieurs fichiers PDF pour discuter avec. Après le téléchargement, vous pourrez discuter avec le modèle.

Déploiement de Chromadb

Le dossier Terraform contient des scripts originaires de chromadb/examples . Pour déployer votre chromadb en GCP, faites comme suit:

1. Installez GCP CLI, connectez-vous via CLI et créez un nouveau projet. Notez l'ID du projet.

2. Installez Terraform CLI.

3. Mettez à jour terraform/exportapply.sh avec votre variable d'ID de projet.

4. (Facultatif) Générez un clés si vous souhaitez pouvoir SSH dans l'instance GCP.

5. Exécutez exportapply.sh dans votre terminal.

6. Exécutez terraform output instance_public_ip . Prenez note de l'IP de sortie et mettez à jour votre .env .

7. Exécutez terraform output chroma_auth_token . Prenez note de votre jeton Auth et mettez à jour votre .env .

8. (facultatif) Il faut un certain temps pour que l'instance GCP arrive, afin que vous puissiez vérifier l'état avec

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. L'API devrait désormais être en mesure de se connecter avec votre instance ChromADB déployée par GCP pour les opérations de magasin vectoriel.

Dépannage

En général, gardez un œil dans la section issues et discussions de ce repo pour les solutions.

Erreurs générales

• Assurez-vous d'exécuter la dernière version de nœud. Exécutez node -v
• Essayez un autre PDF ou convertissez votre PDF en texte en premier. Il est possible que votre PDF soit corrompu, scanné ou nécessite que OCR se convertisse en texte.
• Console.log les variables env et assurez-vous qu'elles sont exposées.
• Vérifiez que vous avez créé un fichier .env qui contient vos clés API valides (et fonctionnaires), l'environnement et le nom d'index.
• Si vous modifiez modelName dans OpenAI , assurez-vous d'avoir accès à l'API pour le modèle approprié.
• Assurez-vous d'avoir suffisamment de crédits OpenAI et une carte valide sur votre compte Billings.
• Vérifiez que vous n'avez pas plusieurs clés OpenAPI dans votre environnement mondial. Si vous le faites, le fichier env local du projet sera écrasé par la variable env Systems.
• Essayez de coder dur vos clés API dans le process.env ENV Variables s'il y a encore des problèmes.

Crédits

À l'origine fourchu à partir de https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chroma