HelloPDF

HELLOPDF - chat PDF alimentado por GPT -4 desplegable

¡Ejecute e implementa un chatbot alimentado por GPT-4 en minutos!

Utiliza ChromAdB para su tienda Vector, con un frontend Next.js.

Desarrollo

1. Instale Docker Desktop para su plataforma.

2. Clonar el repositorio o descargar el zip

 git clone [github https url]

3. Instalar paquetes

Primero ejecute npm install yarn -g para instalar hilo a nivel mundial (si aún no lo ha hecho).

Luego corre:

 yarn install

Después de la instalación, ahora debería ver una carpeta node_modules .

4. Configure su archivo .env

• Copiar .env.example en .env su archivo .env debe verse así:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• Visite OpenAI para recuperar las teclas API e inserte en su archivo .env .
• Elija un nombre de colección donde desee almacenar sus incrustaciones en Chroma. Esta colección se utilizará más tarde para consultas y recuperación.
• Detalles de croma

5. Dependiendo de su configuración, es posible que deba modificar app/api/files/utilities.ts para conectarse a la instancia de ChromAdB correcta.

6. En una nueva ventana terminal, ejecute Chroma en el contenedor Docker:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

Ejecutar la aplicación

Puede ejecutar la aplicación con npm run dev para iniciar el entorno de desarrollo local y luego cargar uno o muchos archivos PDF para chatear. Después de subir, podrá chatear con el modelo.

Implementación de ChromadB

La carpeta Terraform contiene scripts originarios de chromadb/examples . Para implementar su ChromAdB a GCP, haga lo siguiente:

1. Instale GCP CLI, inicie sesión a través de CLI y cree un nuevo proyecto. Tenga en cuenta la identificación del proyecto.

2. Instale Terraform CLI.

3. Actualice terraform/exportapply.sh con su variable de identificación del proyecto.

4. (Opcional) Genere un KeyPair si desea poder SSH en la instancia de GCP.

5. Ejecute exportapply.sh en su terminal.

6. Ejecute terraform output instance_public_ip . Tome nota de la IP de salida y actualice su .env .

7. Ejecute terraform output chroma_auth_token . Tome nota de su token de autenticación y actualice su .env .

8. (opcional) Se tarda un tiempo en aparecer la instancia de GCP, para que pueda verificar el estado con

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. La API ahora debería poder conectarse con su instancia de ChromAdB deplojada de GCP para las operaciones de la tienda vectorial.

Solución de problemas

En general, esté atento en la sección issues y discussions de este repositorio para soluciones.

Errores generales

• Asegúrese de ejecutar la última versión de nodo. Ejecutar node -v
• Pruebe un PDF diferente o convierta su PDF en texto primero. Es posible que su PDF esté dañado, escaneado o requiere que OCR se convierta en texto.
• Console.log las variables env y asegúrese de que estén expuestas.
• Verifique que haya creado un archivo .env que contenga sus claves API válidas (y de trabajo), entorno y nombre de índice.
• Si cambia modelName en OpenAI , asegúrese de tener acceso a la API para el modelo apropiado.
• Asegúrese de tener suficientes créditos de OpenAI y una tarjeta válida en su cuenta de Billings.
• Verifique que no tenga múltiples claves OpenAPI en su entorno global. Si lo hace, el archivo env local del proyecto se sobrescribirá por Systems env Variable.
• Intente codificar sus claves API en el process.env .

Créditos

Originalmente bifurcado desde https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chroma