HelloPDF

HelloPDF - การแชท PDF แบบ GPT -4 ที่ใช้งานได้

เรียกใช้และปรับใช้แชทบอท GPT-4 ในไม่กี่นาที!

ใช้ Chromadb สำหรับเวกเตอร์สโตร์ด้วยส่วนหน้าต่อไป

การพัฒนา

1. ติดตั้ง Docker Desktop สำหรับแพลตฟอร์มของคุณ

2. โคลน repo หรือดาวน์โหลด zip

 git clone [github https url]

3. ติดตั้งแพ็คเกจ

วิ่งครั้งแรก npm install yarn -g เพื่อติดตั้งเส้นด้ายทั่วโลก (ถ้าคุณยังไม่ได้)

จากนั้นเรียกใช้:

 yarn install

หลังจากการติดตั้งตอนนี้คุณควรเห็นโฟลเดอร์ node_modules

4. ตั้งค่าไฟล์ .env ของคุณ

• คัดลอก .env.example ไปยัง .env ไฟล์ .env ของคุณควรมีลักษณะเช่นนี้:

 OPENAI_API_KEY=
CHROMA_AUTH_BASIC=
CHROMA_AUTH_TOKEN=
CHROMA_URL=
COLLECTION_NAME=[optional]

• เยี่ยมชม OpenAI เพื่อดึงคีย์ API และแทรกลงในไฟล์. .env ของคุณ
• เลือกชื่อคอลเลกชันที่คุณต้องการจัดเก็บ embeddings ของคุณใน Chroma คอลเลกชันนี้จะถูกใช้ในภายหลังสำหรับการสืบค้นและการดึงข้อมูล
• รายละเอียด chroma

5. ขึ้นอยู่กับการตั้งค่าของคุณคุณอาจต้องแก้ไข app/api/files/utilities.ts เพื่อเชื่อมต่อกับอินสแตนซ์ Chromadb ที่เหมาะสม

6. ในหน้าต่างเทอร์มินัลใหม่เรียกใช้ Chroma ในคอนเทนเนอร์ Docker:

 docker run -p 8000:8000 ghcr.io/chroma-core/chroma:latest

เรียกใช้แอพ

คุณสามารถเรียกใช้แอพด้วย npm run dev เพื่อเปิดตัวสภาพแวดล้อมในท้องถิ่นจากนั้นอัปโหลดไฟล์ PDF หนึ่งไฟล์หรือหลายไฟล์เพื่อแชทด้วย หลังจากอัปโหลดคุณจะสามารถแชทกับโมเดลได้

การปรับใช้ Chromadb

โฟลเดอร์ Terraform มีสคริปต์ที่มีต้นกำเนิดมาจาก chromadb/examples ในการปรับใช้ Chromadb ของคุณเป็น GCP ทำดังนี้:

1. ติดตั้ง GCP CLI เข้าสู่ระบบผ่าน CLI และสร้างโครงการใหม่ หมายเหตุรหัสโครงการ

2. ติดตั้ง Terraform CLI

3. อัปเดต terraform/exportapply.sh ด้วยตัวแปร ID โครงการของคุณ

4. (ไม่บังคับ) สร้างแป้นพิมพ์หากคุณต้องการให้ SSH ในอินสแตนซ์ GCP

5. เรียกใช้ exportapply.sh ในเทอร์มินัลของคุณ

6. เรียกใช้ terraform output instance_public_ip จดบันทึกเอาต์พุต IP และอัปเดต .env ของคุณ

7. เรียกใช้ terraform output chroma_auth_token จดบันทึกโทเค็น Auth ของคุณและอัปเดต .env ของคุณ

8. (ไม่บังคับ) ต้องใช้เวลาพอสมควรสำหรับอินสแตนซ์ GCP ที่จะเกิดขึ้นดังนั้นคุณสามารถตรวจสอบสถานะด้วย

 % export instance_public_ip=$(terraform output instance_public_ip | sed 's/"//g')
% curl -v http://$instance_public_ip:8000/api/v1/heartbeat

9. ตอนนี้ API ควรจะสามารถเชื่อมต่อกับอินสแตนซ์ Chromadb ที่ใช้ GCP ของคุณสำหรับการดำเนินงานร้านค้าเวกเตอร์

การแก้ไขปัญหา

โดยทั่วไปจับตาดูส่วน issues และ discussions ของ repo นี้สำหรับการแก้ปัญหา

ข้อผิดพลาดทั่วไป

• ตรวจสอบให้แน่ใจว่าคุณใช้งานโหนดเวอร์ชันล่าสุด เรียกใช้ node -v
• ลองใช้ PDF อื่นหรือแปลง PDF ของคุณเป็นข้อความก่อน เป็นไปได้ว่า PDF ของคุณเสียหายสแกนหรือต้องการ OCR เพื่อแปลงเป็นข้อความ
• Console.log ตัวแปร env และตรวจสอบให้แน่ใจว่าได้รับการเปิดเผย
• ตรวจสอบว่าคุณได้สร้างไฟล์ .env ที่มีคีย์ API (และทำงาน) ที่ถูกต้องของคุณ (และใช้งานได้)
• หากคุณเปลี่ยน modelName ใน OpenAI ตรวจสอบให้แน่ใจว่าคุณสามารถเข้าถึง API สำหรับรุ่นที่เหมาะสม
• ตรวจสอบให้แน่ใจว่าคุณมีเครดิต OpenAI เพียงพอและบัตรที่ถูกต้องในบัญชีการเรียกเก็บเงินของคุณ
• ตรวจสอบว่าคุณไม่มีปุ่ม OpenAPI หลายตัวในสภาพแวดล้อมทั่วโลกของคุณ ถ้าคุณทำไฟล์ env ท้องถิ่นจากโครงการจะถูกเขียนทับโดยตัวแปร Systems env
• ลองใช้รหัสอย่างหนักรหัส API ของคุณลงในตัวแปร process.env หากยังมีปัญหาอยู่

การให้เครดิต

เดิมทีมีการแยกจาก https://github.com/mayooear/gpt4-pdf-chatbot-langchain/tree/feat/chroma