หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

แชทกับ PDF - ผ้าขี้ริ้ว

เล่น

ดูตัวอย่าง

QCHAT.1.MP4

บทความ

  • ชุมชน Dev
  • Hashnode

- ตรรกะ

แหล่งที่มา

1. การบริโภคเอกสาร

  • ผู้ใช้อัปโหลด : ผู้ใช้อัปโหลดไฟล์ PDF (หรือไฟล์อื่น ๆ ) ไปยัง S3/Cloudinary
  • แยกเนื้อหา : เนื้อหาของ PDF ถูกดึงออกมา
  • แบ่งออกเป็นชิ้น : เนื้อหาที่สกัดถูกแบ่งออกเป็นชิ้นที่จัดการได้

2. สร้าง embeddings

  • สร้าง Embeddings : แต่ละก้อนถูกประมวลผลเพื่อสร้าง embeddings เวกเตอร์โดยใช้ API ฝัง (เช่น OpenAI Embeddings)
  • EMBEDDINGS : นี่เป็นตัวแทนตัวเลขของชิ้นซึ่งจับความหมายเชิงความหมาย

3. ฐานความรู้

  • ร้านค้า Embeddings : Embeddings และ Document Chunks ถูกเก็บไว้ในฐานข้อมูล (เช่น PostgreSQL) ที่ทำหน้าที่เป็นฐานความรู้
  • ฐานข้อมูลการฝัง : เครื่องมือเช่น pyevctor, pinecone, faiss หรือ chromadb สามารถใช้สำหรับการจัดเก็บและจัดทำดัชนีการฝังตัวเหล่านี้

4. การเรียกคืน

  • คำถามผู้ใช้ : ผู้ใช้ถามคำถาม
  • สร้างการฝังคิวรี : คำถามจะถูกแปลงเป็นการฝังเวกเตอร์
  • การค้นหาความหมาย : การใช้การฝังคำถามการค้นหาความหมายจะดำเนินการในเอกสารที่เก็บไว้
  • ผลลัพธ์ที่ได้รับการจัดอันดับ : ผลลัพธ์จะได้รับการจัดอันดับตามคะแนนความคล้ายคลึงกัน (เช่นความคล้ายคลึงกันของโคไซน์)

5. บริบทถึง LLM (โมเดลภาษาขนาดใหญ่)

  • CTX : ผลลัพธ์ที่คล้ายกัน Top-K ใช้เพื่อให้บริบทกับ LLM (เช่น GPT-4, Llama 2, Mistral 7B, CHATGPT)
  • คำตอบ : LLM ใช้บริบทนี้เพื่อสร้างและส่งคืนคำตอบที่เกี่ยวข้องกับผู้ใช้

- วิธีใช้

  1. ลงชื่อเข้าใช้ : เริ่มต้นด้วยการลงชื่อเข้าใช้จากหน้า Landing Page เมื่อลงชื่อเข้าใช้แล้วคุณจะเห็นปุ่ม Let's Start คลิกที่ปุ่มนี้เพื่อเริ่มต้น

  2. สร้างโครงการ : หลังจากคลิก Let's Start คุณสามารถสร้างโครงการได้ ระบุชื่อคำอธิบายและอัปโหลดไฟล์ PDF PDF จะถูกอัปโหลดไปยังถังเมฆ (เช่น S3) และเก็บไว้ใน PostgreSQL

  3. การประมวลผล PDF : บนแบ็กเอนด์ไฟล์ PDF จะถูกประมวลผลเพื่อสร้างการฝังเวกเตอร์ของเนื้อหา การฝังตัวเหล่านี้จะถูกเก็บไว้เพื่อการใช้งานในอนาคต

  4. การประมวลผลแบบอะซิงโครนัส : การประมวลผลทั้งหมดได้รับการจัดการแบบอะซิงโครนัสโดยใช้ BullMQ เพื่อให้มั่นใจว่ามันมีประสิทธิภาพและไม่ปิดกั้นการดำเนินการอื่น ๆ ทำให้คุณสามารถดำเนินการต่อโดยไม่ต้องรอการแชทอินเทอร์เฟซพร้อม

  5. การตรวจสอบแดชบอร์ด : คุณสามารถดูโครงการทั้งหมดของคุณบนแดชบอร์ดส่วนหน้า แต่ละโครงการจะแสดงสถานะ: 'การสร้าง', 'ล้มเหลว' หรือ 'สร้าง' สิ่งนี้ช่วยให้คุณสามารถติดตามความคืบหน้าและรู้ว่าโครงการของคุณพร้อมเมื่อใด หากมีปัญหาใด ๆ เกิดขึ้นคุณจะสามารถเห็นสถานะและดำเนินการที่เหมาะสม

  6. อินเทอร์เฟซแชท : เมื่อโครงการพร้อมแล้วคุณสามารถเปิดเพื่อเข้าถึงอินเทอร์เฟซแชทที่ใช้งานง่าย ที่นี่คุณสามารถถามคำถามและรับคำตอบที่เกี่ยวข้องตามเนื้อหาของ PDF ของคุณ

- วิธีการวิ่ง

ไม่มีนักเทียบท่า

  1. ติดตั้ง node.js จากการดาวน์โหลด node.js
  2. ติดตั้งการพึ่งพา: 
     cd client
pnpm i

cd server
yarn
  3. เรียกใช้รหัส: 
     cd client
pnpm run dev

cd server
yarn start:dev

กับ Docker

  1. เรียกใช้คำสั่งต่อไปนี้: 
    docker compose up

    หมายเหตุ: เราใช้ทั้งการกระทำของเซิร์ฟเวอร์และเซิร์ฟเวอร์ NestJS บางครั้งนักเทียบท่าอาจส่งข้อผิดพลาด หากคุณพบปัญหาโปรดเพิ่มปัญหา

- การตั้งค่าสภาพแวดล้อม

⇉⟭เซิร์ฟเวอร์

  1. สร้างไฟล์ .env ในไดเรกทอรี server ( server/.env ): 
     # Server port
PORT = 3333
DATABASE_URL = " postgresql://neondb_owner:********/neondb?sslmode=require "

# S3
AWS_ACCESS_KEY_ID = A********P**T********VN
AWS_SECRET_ACCESS_KEY = M********U9J********aYr4********Yostzb
AWS_S3_REGION = us-east-1
AWS_S3_BUCKET_NAME = ********

# Rate Limit
UPLOAD_RATE_TTL = 60
UPLOAD_RATE_LIMIT = 3

# Pinecone
PINECONE_API_KEY = e1******-56**-43**-8f**-f**7**3**2**

# OpenAI
OPENAI_API_KEY = sk-p******j-f******og******Nr0P******FJt******JiBl******EvExEK

# Clerk
CLERK_SECRET_KEY = sk_t******rL5******BkF******7******2hF******aL

# Redis
REDIS_HOST = " redis-*****tysub*****1-8*****.a.aivencloud.com "
REDIS_PORT = *****
REDIS_USERNAME = " ***** "
REDIS_PASSWORD = " AVNS_*****Mi*****S*****a "
  2. ตั้งค่าบริการต่อไปนี้:
    • Database_url : ตัวเลือกที่รองรับ ได้แก่ Cockroachdb, Neon, Supabase, Tembo, Crunchy Bridge หรือ EdgedB
    • S3 :
      • ข้อมูลรับรอง AWS: ข้อมูลรับรองความปลอดภัยของ AWS
      • ภูมิภาค S3 และถัง: คอนโซล S3
    • Pinecone : ปุ่ม Pinecone API
    • Openai : Openai API
    • เสมียน : เสมียน
    • Redis : Aven Redis

⇉⟭ลูกค้า

  1. สร้างไฟล์ .env.local ในไดเรกทอรี client ( client/.env.local ): 
     NEXT_PUBLIC_CLERK_PUBLISHABLE_KEY = pk_test_******reWx******M******su******b3******uZG******A
CLERK_SECRET_KEY = sk_test_SI******B******Kw******Qgdx7V******9aL

NEXT_PUBLIC_CLERK_SIGN_IN_URL = /sign-in
NEXT_PUBLIC_CLERK_SIGN_UP_URL = /sign-up
NEXT_PUBLIC_CLERK_AFTER_SIGN_IN_URL = /
NEXT_PUBLIC_CLERK_AFTER_SIGN_UP_URL = /
NEXT_PUBLIC_CLERK_AFTER_SIGN_OUT_URL = /

# OpenAI
OPENAI_API_KEY = sk-p******j-f******og******Nr0P******FJt******JiBl******EvExEK
  2. ตั้งค่าเสมียน: เสมียน

- เฟรมเวิร์ก

⇉⟭เซิร์ฟเวอร์

  • Nestjs (ด่วน)
  • RXJS
  • ปริซึม
  • Openai
  • Redis
  • bullmq
  • PostgreSQL
  • เวกเตอร์ฝังตัว
  • Pinecone
  • pgvector
  • นักเทียบท่า

⇉⟭ลูกค้า

  • next.js
  • tailwindcss
  • คำถามตอบสนอง
  • redux
  • ซอกซอก
  • Lucide React
  • ซอนเนอร์
  • Shadcn UI

- คุณสมบัติ

  1. แชท
  2. แดชบอร์ดผู้ใช้
  3. การรับรองความถูกต้อง
  4. หน้า Landing Page

- หมายเหตุสำคัญ

  1. NestJS : NestJS ให้สถาปัตยกรรม MVC ที่แข็งแกร่งและความสามารถในการปรับขนาดที่ยอดเยี่ยมโดยผสมผสานคุณสมบัติในตัวเช่นการฉีดพึ่งพาและโครงสร้างแบบแยกส่วน เหมาะอย่างยิ่งสำหรับแอพพลิเคชั่นระดับองค์กรการผลิตรองรับไมโครไซต์และสร้างความมั่นใจว่าการบำรุงรักษาซึ่งการตั้งค่า node.js แบบดั้งเดิมมักจะขาด

    NestJS ใช้ประโยชน์จาก Express (node.js) อย่างเหมาะสมการบรรลุประสิทธิภาพและความสามารถในการปรับขนาดไม่ได้รับการตั้งค่าทั่วไป

  2. API แบ็กเอนด์ทั้งหมดได้รับการคุ้มครองโดยโทเค็นเซสชันเสมียนของคุณ หากไม่มีสิ่งนี้การเข้าถึงแบ็กเอนด์จะถูก จำกัด การทดสอบบุรุษไปรษณีย์ที่ซับซ้อน ในการทดสอบกับบุรุษไปรษณีย์ให้ลบหรือแสดงความคิดเห็นบรรทัดต่อไปนี้ชั่วคราวใน server/src/app.module.ts : 
    providers: [
  {
    provide : APP_GUARD ,
    useClass : ClerkAuthGuard ,
  }
]
  3. การประมวลผลทั้งหมดเกิดขึ้นภายในพนักงาน BullMQ ทำให้มั่นใจได้ว่าจะปรับขนาดได้สูง
  4. เราใช้ Redis สำหรับการแคชข้อมูล คุณสามารถใช้งานได้ในพื้นที่หรือเชื่อมต่อกับ URL การผลิต

- โน้ตผู้ช่วย

. ใช้คำสั่ง prisma: 

npx prisma studio
npx prisma migrate dev --name init

ข. S3

  1. ถังสร้าง
  • ACLS ปิดการใช้งาน (แนะนำ)
  • บล็อกการเข้าถึงสาธารณะทั้งหมด (ยกเลิกการเลือก)
  • การกำหนดเวอร์ชันถัง - ปิดการใช้งาน
  • ล็อควัตถุ - ปิดการใช้งาน
  • การเข้ารหัสเริ่มต้น
    • ประเภทการเข้ารหัส-การเข้ารหัสฝั่งเซิร์ฟเวอร์ด้วยคีย์ที่มีการจัดการของ Amazon S3 (SSE-S3)
    • Bucket Key - เปิดใช้งาน
  1. Bucket -> Bucket policy - Edit

วางสิ่งนี้ แต่ตรวจสอบให้แน่ใจว่า - แก้ไขการเข้าถึงสาธารณะ - ปิดการใช้งาน

2.1 นโยบาย S3 ( arn:aws:s3:::<bucket-name> ): 

{
  "Version" : " 2012-10-17 " ,
  "Statement" : [
    {
      "Sid" : " PublicReadGetObject " ,
      "Effect" : " Allow " ,
      "Principal" : " * " ,
      "Action" : " s3:GetObject " ,
      "Resource" : " arn:aws:s3:::<bucket-name>/* "
    }
  ]
}

2.2. การกำหนดค่า CORS:

การแบ่งปันทรัพยากรข้ามแหล่งกำเนิด (CORS) - แก้ไข 

[
  {
    "AllowedHeaders" : [ " * " ],
    "AllowedMethods" : [ " PUT " , " POST " , " DELETE " , " GET " ],
    "AllowedOrigins" : [ " * " ],
    "ExposeHeaders" : []
  }
]
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด