HelloPDF -Download - HelloPDF Quellcode Download

HelloPDF

AI-Quellcode

1.0.0

Herunterladen

HelloPDF - Einsatzbares GPT -4 -PDF -Chat eingesetzt

Führen Sie einen GPT-4-Chatbot in wenigen Minuten aus und setzen Sie sie bereit!

Verwendet Chromadb für seine Vectorstore mit einem nächsten Frontend.

Entwicklung

Installieren Sie Docker Desktop für Ihre Plattform.
Klonen Sie das Repo oder laden Sie den Reißverschluss herunter

 git clone [github https url]

Pakete installieren

Führen Sie zunächst npm install yarn -g , um Garns global zu installieren (wenn Sie es noch nicht getan haben).

Dann rennen:

 yarn install

Nach der Installation sollten Sie nun einen Ordner node_modules sehen.

Richten Sie Ihre .env -Datei ein

Kopieren .env.example in .env Ihre .env -Datei sollte so aussehen:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

Besuchen Sie OpenAI, um API -Schlüssel abzurufen und in Ihre .env -Datei einzufügen.
Wählen Sie einen Sammlungsnamen, in dem Sie Ihre Einbettungen in Chroma speichern möchten. Diese Sammlung wird später für Fragen und Abrufen verwendet.
Chroma -Details

Abhängig von Ihrem Setup müssen Sie möglicherweise app/api/files/utilities.ts ändern, um eine Verbindung zur richtigen Chromadb -Instanz herzustellen.
Führen Sie in einem neuen Terminalfenster Chroma im Docker -Container aus:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

Führen Sie die App aus

Sie können die App mit npm run dev ausführen, um die lokale Entwicklerumgebung zu starten, und dann eine oder viele PDF -Dateien hochladen, mit denen Sie chatten können. Nach dem Hochladen können Sie mit dem Modell chatten.

Chromadb -Bereitstellung

Der Terraform -Ordner enthält Skripte, die ursprünglich aus chromadb/examples sind. Um Ihr Chromadb für GCP bereitzustellen, tun Sie dies wie folgt:

Installieren Sie GCP CLI, melden Sie sich über CLI an und erstellen Sie ein neues Projekt. Beachten Sie die Projekt -ID.
Installieren Sie Terraform CLI.
Aktualisieren Sie terraform/exportapply.sh mit Ihrer Projekt -ID -Variable.
(Optional) Generieren Sie einen Tastar, wenn Sie in der GCP -Instanz SSH in der Lage sein möchten.
Führen Sie exportapply.sh in Ihrem Terminal aus.
Führen Sie terraform output instance_public_ip aus. Beachten Sie die Ausgabe -IP und aktualisieren Sie Ihr .env .
Führen Sie terraform output chroma_auth_token aus. Beachten Sie Ihr Auth -Token und aktualisieren Sie Ihr .env .
(Optional) Es dauert einige Zeit, bis die GCP -Instanz auftaucht, sodass Sie den Status mit dem Status überprüfen können

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

Die API sollte nun in der Lage sein, sich mit Ihrer von GCP abgelagerten Chromadb-Instanz für Vektorspeicheroperationen zu verbinden.

Fehlerbehebung

Halten Sie im Allgemeinen Ausschau auf den Abschnitt issues und discussions " dieses Repo für Lösungen.

Allgemeine Fehler

Stellen Sie sicher, dass Sie die neueste Knotenversion ausführen. Führen Sie node -v aus
Versuchen Sie es mit einem anderen PDF oder konvertieren Sie Ihr PDF zuerst in Text. Es ist möglich, dass Ihr PDF beschädigt, gescannt ist oder OCR benötigt, um in Text umzuwandeln.
Console.log die env -Variablen und stellen Sie sicher, dass sie ausgesetzt sind.
Überprüfen Sie, ob Sie eine .env -Datei erstellt haben, die Ihre gültigen (und funktionierenden) API -Schlüssel, Umgebungs- und Indexnamen enthält.
Wenn Sie modelName in OpenAI ändern, stellen Sie sicher, dass Sie Zugriff auf die API für das entsprechende Modell haben.
Stellen Sie sicher, dass Sie über genügend OpenAI -Credits und eine gültige Karte auf Ihrem Billings -Konto verfügen.
Überprüfen Sie, ob Sie in Ihrer globalen Umgebung nicht mehrere OpenAPI -Schlüssel haben. Wenn Sie dies tun, wird die lokale env -Datei aus dem Projekt durch Systeme env überschrieben.
Versuchen Sie, Ihre API -Schlüssel in den process.env zu streichen.