insight chat

การแชทเชิงลึก

สร้างด้วย

• FASTAPI - Fastapi เป็นงานที่ทันสมัยรวดเร็ว (ประสิทธิภาพสูง), เฟรมเวิร์กเว็บสำหรับการสร้าง APIs ด้วย Python 3.7+ ตามคำแนะนำประเภทงูหลามมาตรฐาน

• LLAMAINDEX - LLAMAINDEX เป็นกรอบข้อมูลสำหรับแอปพลิเคชันที่ใช้ LLM ซึ่งได้รับประโยชน์จากการเพิ่มบริบท ระบบ LLM ดังกล่าวถูกเรียกว่าเป็นระบบ RAG ซึ่งยืนหยัดเพื่อ“ การเรียกคืนผู้ดำเนินการรับเงิน” Llamaidex ให้สิ่งสำคัญที่จำเป็นสำหรับการบริโภคโครงสร้างและเข้าถึงข้อมูลส่วนตัวหรือโดเมนที่ง่ายขึ้นเพื่อฉีดเหล่านี้อย่างปลอดภัยและน่าเชื่อถือลงใน LLMs เพื่อการสร้างข้อความที่แม่นยำยิ่งขึ้น

• MongoDB Atlas - MongoDB Atlas เป็นฐานข้อมูลคลาวด์ที่ได้รับการจัดการอย่างเต็มที่ซึ่งพัฒนาโดยคนเดียวกันที่สร้าง MongoDB

• ATLAS Vector Search - ATLAS Vector Search ช่วยให้คุณค้นหาข้อมูลที่ไม่มีโครงสร้าง คุณสามารถสร้างการฝังเวกเตอร์ด้วยโมเดลการเรียนรู้ของเครื่องเช่น OpenAI และ Hugging Face และจัดเก็บและจัดทำดัชนีใน Atlas สำหรับการสร้าง Augmented Generation (RAG) การค้นหาความหมายเอ็นจิ้นคำแนะนำการปรับเปลี่ยนแบบไดนามิกและกรณีการใช้งานอื่น ๆ

หมายเหตุ: คุณต้องสร้างดัชนี KNN เพื่อใช้ Atlas Vector Search

• เข้าสู่บัญชี Atlas ของคุณและค้นหาคอลเลกชันที่สอดคล้องกับ Vector Store หากคุณใช้ชื่อเริ่มต้นควรเป็น“ default_store/default_db”
• สร้างดัชนีการค้นหาสำหรับคอลเลกชันใน Atlas Search เลือกโหมด“ JSON Editor” และตั้งค่าดัชนีด้วยเนื้อหาต่อไปนี้:

 {
  "mappings": {
    "dynamic": true,
    "fields": {
      "embedding": {
        "dimensions": 1536,
        "similarity": "cosine",
        "type": "knnVector"
      }
    }
  }
}

• รอสักครู่เพื่อให้ดัชนีใหม่มีผล

เรียกใช้แอพด้วย uvicorn

กำหนดให้มี

• Python> = 3.10

ติดตั้งด้วยบทกวี:

 pip install poetry
poetry config virtualenvs.in-project true
poetry shell
poetry install

 uvicorn app.main:app --host 127.0.0.1 --port 9080

เรียกใช้แอพด้วย Docker?

 docker build -t insight-chat .
docker run -d --name insight-chat -p 8080:8080 insight-chat

คุณสมบัติ:

1. แชท

• แชทด้วยเอกสาร
• แชทสนทนาด้วยเอกสาร

2. ข้อมูลการบริโภค

• คุณสามารถนำข้อมูลจากไฟล์เว็บไซต์ลิงค์หรือ YouTube

3. ข้อความ

• จัดการข้อความสำหรับการสนทนาการสนทนา

4. เซสชันแชท

• จัดการเซสชันแชทสำหรับการสนทนาการสนทนา

5. ผู้ใช้

• จัดการผู้ใช้สำหรับแอปพลิเคชัน

6. การรับรองความถูกต้อง

• การรับรองความถูกต้องสำหรับแอปพลิเคชัน

ความรู้

ระบบจัดเก็บข้อมูลของ LlamaineDex

ในระยะสั้น Llamaidex ใช้รูปแบบต่อไปนี้เพื่อจัดเก็บข้อมูลเอกสาร:

ข้อความของเอกสารแบ่งออกเป็นหลายโหนดหรือที่เรียกว่า "ชิ้น"; การใช้ ID เอกสารเป็นคีย์หลักวัตถุที่แสดงแต่ละเอกสารส่วนใหญ่เป็นข้อมูลเมตาเช่นชื่อไฟล์และแฮชจะถูกเก็บไว้ในที่เก็บเอกสารพร้อมกับรายการของโหนดสำหรับเอกสารนั้น การใช้โหนด ID เป็นคีย์หลักการฝังของโหนดจะถูกเก็บไว้ในที่เก็บเวกเตอร์

การใช้งาน MongoDB สามรายการสำหรับร้านค้าที่ใช้ในโครงการนี้:

• Mongodocumentstore
• Mongoindexstore
• MongodbatlasvectorSearch

การอ้างอิง

https://medium.com/@luoning.nici/llamaindex-in-depth-practice-how-to-build-a-reliable-storage-subsystem-with-mongoDb-atlas-f306bf2fb480

https://docs.llamaindex.ai/en/stable/index.html

https://www.mongodb.com/atlas

หากโครงการนี้ช่วยคุณได้โปรดอย่าลืมให้ฉัน ขอบคุณ! -