QnA With RAG

QNA-with-rag

- คำอธิบายโครงการ

QNA-with-rag เป็นแอปพลิเคชั่นเต็มรูปแบบที่แปลงเอกสารข้อความเป็นบริบทสำหรับโมเดลภาษาขนาดใหญ่ (LLMs) เพื่ออ้างอิงในระหว่างการแชท คุณสามารถเพิ่มลบเอกสารและสร้างฐานความรู้หลายอย่างได้อย่างง่ายดาย

วัตถุประสงค์และเป้าหมาย

โครงการนี้มีจุดมุ่งหมายเพื่อสร้างแชทบ็อตพร้อมผลิตโดยใช้ OpenAI API มันรวม Vectordb และ Langsmith เพื่อปรับปรุงการทำงานของมัน

เทคโนโลยีที่ใช้

คุณสมบัติ

• แชทกับไฟล์ข้อความ
• สตรีมมิ่งแชท
• อัปโหลดไฟล์ข้อความหลายไฟล์
• รักษา DB เวกเตอร์ (เพิ่ม/ลบไฟล์)
• การตรวจสอบโทเค็น API แบบคงที่สำหรับ Chromadb
• สร้างฐานความรู้หลายอย่าง

โฟลว์แอพพลิเคชั่น

- การสาธิต

ดูตัวอย่างของแอปพลิเคชันที่นี่

การพัฒนาในอนาคต

การอัปเดตในอนาคตจะรวมถึง:

• React.js การรวมส่วนหน้า
• คุณลักษณะของ Chromadb ที่ปรับปรุงแล้ว (การกรองการค้นหา)
• ความสามารถด้านหน่วยความจำสำหรับ chatbot

การติดตั้งและการตั้งค่า

1. โคลนที่เก็บ

   git clone [email protected]:Ja-yy/QnA-With-RAG.git

2. ตั้งค่าตัวแปรสภาพแวดล้อม

   สร้างไฟล์ .env ด้วยเนื้อหาต่อไปนี้:

    OPENAI_API_KEY='<your_open_ai_key>'
   EMBEDDING_MODEL='text-embedding-ada-002'
   CHAT_MODEL='gpt-3.5-turbo'
   TEMPERATURE=0
   MAX_RETRIES=2
   REQUEST_TIMEOUT=15
   
   CHROMADB_HOST="chromadb"
   CHROMADB_PORT="8000"
   
   CHROMA_SERVER_AUTH_CREDENTIALS="<test-token>"
   CHROMA_SERVER_AUTH_CREDENTIALS_PROVIDER="chromadb.auth.token.TokenConfigServerAuthCredentialsProvider"
   CHROMA_SERVER_AUTH_PROVIDER="chromadb.auth.token.TokenAuthServerProvider"
   CHROMA_SERVER_AUTH_TOKEN_TRANSPORT_HEADER="AUTHORIZATION"
   

3. สร้างและเรียกใช้แอปพลิเคชัน

   ดำเนินการคำสั่งต่อไปนี้:

   docker-compose up -d --build

4. เข้าถึงแอปพลิเคชัน

   เปิดเว็บเบราว์เซอร์ของคุณและไปที่ LocalHost เพื่อเริ่มใช้แอพ

5. การกำหนดค่า nginx

   • Nginx ทำหน้าที่เป็นพร็อกซีย้อนกลับคำขอการกำหนดเส้นทางไปยังบริการที่เหมาะสมและการจัดการ HTTPS (ถ้ากำหนดค่า)
   • ตรวจสอบให้แน่ใจว่าไฟล์กำหนดค่า Nginx ของคุณได้รับการตั้งค่าอย่างถูกต้องในไดเรกทอรี nginx เพื่อประสิทธิภาพที่ดีที่สุด

- คำถามที่พบบ่อย

• ฉันควรทำอย่างไรถ้าฉันพบปัญหา?

  • ตรวจสอบบันทึกโดยใช้ docker-compose logs สำหรับการแก้ไขปัญหา

• ฉันจะมีส่วนร่วมได้อย่างไร?

  • อย่าลังเลที่จะเปิดปัญหาหรือส่งคำขอดึงบน GitHub!

สนุกกับการใช้แอพ! -