HelloPDF

HelloPDF - развертываемый GPT -4 Powned PDF -чат

Запустите и разверните чат-бот GPT-4 за считанные минуты!

Использует ChromADB для своего VectorStore, с помощью Frontend Next.js.

Разработка

1. Установите Docker Desktop для вашей платформы.

2. Клонировать репо или скачать Zip

 git clone [github https url]

3. Установите пакеты

Сначала запустите npm install yarn -g для установки пряжи во всем мире (если вы еще этого не сделали).

Затем беги:

 yarn install

После установки вы должны увидеть папку node_modules .

4. Настройка вашего файла .env

• Скопируйте .env.example в .env Ваш файл .env должен выглядеть так:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• Посетите OpenAI, чтобы получить ключи API и вставить в свой файл .env .
• Выберите название коллекции, где вы хотите хранить свои вставки в Chroma. Эта коллекция позже будет использоваться для запросов и поиска.
• Детали Chroma

5. В зависимости от вашей настройки, вам может потребоваться изменить app/api/files/utilities.ts чтобы подключиться к правому экземпляру ChromADB.

6. В новом терминальном окне запустите Chroma в контейнере Docker:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

Запустить приложение

Вы можете запустить приложение с помощью npm run dev чтобы запустить локальную среду Dev, а затем загрузить один или много файлов PDF для общения. После загрузки вы сможете пообщаться с моделью.

Развертывание ChromADB

Папка Terraform содержит сценарии, первоначально из chromadb/examples . Чтобы развернуть свой ChromADB в GCP, делайте следующее:

1. Установите GCP CLI, войдите через CLI и создайте новый проект. Обратите внимание на идентификатор проекта.

2. Установите Terraform Cli.

3. Обновите terraform/exportapply.sh с помощью переменной идентификатора проекта.

4. (Необязательно) Сгенерируйте клавиатуру, если вы хотите иметь возможность вмешаться в экземпляр GCP.

5. Запустите exportapply.sh в вашем терминале.

6. Запустите terraform output instance_public_ip . Обратите внимание на выходной IP и обновите свой .env .

7. Запустите terraform output chroma_auth_token . Обратите внимание на ваш токен Auth и обновите свой .env .

8. (Необязательно) Требуется некоторое время, чтобы экземпляр GCP, чтобы прийти, вы можете проверить статус с

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. API теперь должен иметь возможность подключаться к вашему экземпляру ChromADB, развернутому в GCP для операций векторного магазина.

Поиск неисправностей

В целом, следите за разделом issues и discussions этого репо для решений».

Общие ошибки

• Убедитесь, что вы запускаете последнюю версию узла. Запустите node -v
• Попробуйте другой PDF или конвертируйте свой PDF на текстовые сообщения. Вполне возможно, что ваш PDF развращен, отсканирован или требует OCR для конвертации в текст.
• Console.log переменные env и убедитесь, что они выставлены.
• Убедитесь, что вы создали файл .env , который содержит ваши допустимые (и работающие) клавиши API, среду и имя индекса.
• Если вы измените modelName в OpenAI , убедитесь, что у вас есть доступ к API для соответствующей модели.
• Убедитесь, что у вас достаточно кредитов Openai и действительной карты на вашей учетной записи Billings.
• Убедитесь, что у вас нет нескольких ключей OpenAPI в вашей глобальной среде. Если вы это сделаете, локальный файл env из проекта будет перезаписан Variable Systems env .
• Старайтесь пристально кодировать свои ключи API в переменные process.env , если все еще есть проблемы.

Кредиты

Первоначально раздроблен от https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chroma