HelloPDF

HellOpdf- 배포 가능한 GPT -4 전원 PDF 채팅

몇 분 안에 GPT-4 전원 챗봇을 실행하고 배포하십시오!

다음은 vectorstore에 ChromADB를 사용하고 다음.

개발

1. 플랫폼에 Docker Desktop을 설치하십시오.

2. 저장소를 복제하거나 지퍼를 다운로드하십시오

 git clone [github https url]

3. 패키지를 설치하십시오

먼저 npm install yarn -g 전 세계적으로 원사를 설치하십시오 (아직없는 경우).

그런 다음 실행 :

 yarn install

설치 후 node_modules 폴더가 표시됩니다.

4. .env 파일을 설정하십시오

• .env.example .env 로 복사하십시오 .env 파일은 다음과 같습니다.

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• OpenAi를 방문하여 API 키를 검색하고 .env 파일에 삽입하십시오.
• 삽입을 Chroma에 저장하려는 컬렉션 이름을 선택하십시오. 이 컬렉션은 나중에 쿼리 및 검색에 사용됩니다.
• 크로마 세부 사항

5. 설정에 따라 오른쪽 ChromADB 인스턴스에 연결하려면 app/api/files/utilities.ts 수정해야 할 수도 있습니다.

6. 새 터미널 창에서 Docker 컨테이너에서 Chroma를 실행하십시오.

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

앱을 실행하십시오

npm run dev 로 앱을 실행하여 로컬 개발 환경을 시작한 다음 하나 또는 많은 PDF 파일을 업로드 할 수 있습니다. 업로드 후 모델과 채팅 할 수 있습니다.

ChromADB 배포

TerraForm 폴더에는 원래 chromadb/examples 의 스크립트가 포함되어 있습니다. ChromADB를 GCP에 배치하려면 다음과 같이 수행하십시오.

1. GCP CLI를 설치하고 CLI를 통해 로그인하고 새 프로젝트를 만듭니다. 프로젝트 ID에 유의하십시오.

2. TerraForm CLI를 설치하십시오.

3. 프로젝트 ID 변수로 terraform/exportapply.sh 업데이트하십시오.

4. (선택 사항) GCP 인스턴스에 SSH를 사용할 수 있으려면 kyypair를 생성합니다.

5. 터미널에서 exportapply.sh 실행하십시오.

6. terraform output instance_public_ip 실행하십시오. 출력 IP를 기록하고 .env 를 업데이트하십시오.

7. terraform output chroma_auth_token 실행하십시오. 인증 토큰을 기록하고 .env 를 업데이트하십시오.

8. (선택 사항) GCP 인스턴스가 등장하는 데 시간이 걸리므로 상태를 확인할 수 있습니다.

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. API는 이제 벡터 스토어 작업을 위해 GCP 배치 ChromADB 인스턴스와 연결할 수 있어야합니다.

문제 해결

일반적으로 솔루션에 대한이 레포지어의 issues 와 discussions 섹션을 주시하십시오.

일반적인 오류

• 최신 노드 버전을 실행하십시오. node -v 실행합니다
• 다른 PDF를 시도하거나 PDF를 먼저 텍스트로 변환하십시오. PDF가 손상되거나 스캔되거나 OCR이 텍스트로 변환하려면 필요할 수 있습니다.
• Console.log env 변수를 노출시켜야합니다.
• 유효한 (및 작업) API 키, 환경 및 색인 이름을 포함하는 .env 파일을 생성했는지 확인하십시오.
• OpenAI 에서 modelName 변경하면 적절한 모델에 대해 API에 액세스 할 수 있는지 확인하십시오.
• Billings 계정에 충분한 OpenAI 크레딧과 유효한 카드가 있는지 확인하십시오.
• 지구 환경에 여러 개의 OpenAPI 키가 없는지 확인하십시오. 그렇다면 프로젝트의 로컬 env 파일은 Systems env Variable에 의해 덮어 씁니다.
• API 키를 process.env 로 하드 코딩하십시오. ENV 변수 문제가있는 경우.

크레딧

원래 https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chroma에서 포기하십시오