RAG Architecture

- ผ้าขี้ริ้วประมวลผลหลายรูปแบบกับ Langchain?

โครงการนี้เป็น แอปพลิเคชั่น Streamlit สำหรับการประมวลผลเอกสารหลายรูปแบบและสอบถาม ฐานข้อมูล Milvus มันใช้ประโยชน์จากเครื่องมือที่ทันสมัยเช่น Langchain , Transformers , Easyocr และอื่น ๆ สำหรับการประมวลผลการจัดเก็บและการสืบค้นข้อความที่สกัดจากไฟล์ประเภทต่างๆ

---

คุณสมบัติ

อัปโหลดการประมวลผลไฟล์ :

• รองรับประเภทไฟล์หลายประเภท: audio , video , image , text , csv , yaml , json , docx และ pdf
• แยกเนื้อหาข้อความโดยใช้:
  • - เสียง : speech_recognition และ pydub
  • - วิดีโอ : ตรรกะการสกัดแบบกำหนดเอง
  • ? image : EasyOCR
  • - ข้อความ/บันทึก/เอกสาร : langchain loaders

การรวม Milvus :

• ️จัดเก็บเอกสารที่ประมวลผลเอกสารสำหรับการสืบค้นที่ใช้ความคล้ายคลึงกัน
• - ใช้ประโยชน์จาก HuggingFaceEmbeddings สำหรับการสร้างการเป็นตัวแทนของเวกเตอร์

- อินเทอร์เฟซแบบสอบถาม :

• อินเทอร์เฟซแบบสอบถามภาษาธรรมชาติ
• ใช้ท่อส่ง (RAG) การเรียกคืน (RAG) สำหรับการตอบสนองที่ขับเคลื่อนด้วย AI

---

การติดตั้ง

- ข้อกำหนดเบื้องต้น

• Python 3.8+
• pip หรือ conda Package Manager
• GPU ที่เข้ากันได้กับ CUDA (ไม่บังคับสำหรับการประมวลผลที่เร็วขึ้น)

- ส้อมและโคลนที่เก็บ

1. แยกที่เก็บ : นำทางไปยังที่เก็บข้อมูล RAG-Architecture GitHub และคลิก ส้อม

2. โคลนพื้นที่เก็บข้อมูลที่ถูกแยก :

   git clone https://github.com/ < your-username > /RAG-Architecture.git
   cd RAG-Architecture
   

- ติดตั้งการพึ่งพา

pip install -r requirements.txt

การใช้งาน

เริ่มแอปพลิเคชัน

เรียกใช้แอพ Streamlit:

streamlit run app.py

โหมดแอปพลิเคชัน

- อัปโหลดไฟล์:

• อัปโหลดไฟล์เพื่อประมวลผลและจัดเก็บเนื้อหาใน Milvus
• แสดงเนื้อหาที่แยกออกมาและจัดเก็บการฝังในฐานข้อมูล

❓คำถาม:

• ป้อนคำถามเพื่อค้นหาและดึงข้อมูลที่เกี่ยวข้องจากฐานข้อมูล Milvus
• ส่งคืนคำตอบที่สร้างขึ้นโดยใช้ท่อส่งเศษผ้าของ Langchain

- โครงสร้างไฟล์

 # # ? **File Structure**

` ` ` bash
project/
│
├── app.py                      #  Main Streamlit application
├── requirements.txt            # ? Python dependencies
├── utils/                      #  Utility modules
│   ├── audio_utils.py          # ? Audio file processing
│   ├── video_utils.py          # ? Video file processing
│   ├── image_utils.py          # ?️ Image file processing
│   ├── document_loaders.py     #  Document processing loaders
│   ├── milvus_client.py        # ?️ Initializes Milvus database
│
├── milvus_database.db          # ?️ Milvus database file (auto-created)
├── Dataset                     #  Folder to store datasets
├── Images                      # ? Folder for storing images

- โมดูลสำคัญ

app.py

- ตรรกะแอปพลิเคชันหลัก

• จัดการการอัปโหลดไฟล์การประมวลผลเอกสารและการสืบค้น

utils/

• - เสียง : แยกเสียงออกเป็นชิ้นและถอดความข้อความ
• - วิดีโอ : ประมวลผลไฟล์วิดีโอเพื่อแยกและวิเคราะห์เนื้อหา
• ime image : ใช้ EasyOcr สำหรับการแยกข้อความ
• บันทึก/เอกสาร : ประมวลผลไฟล์ CSV, YAML, JSON และ PDF ลงในเอกสาร Langchain ที่มีโครงสร้าง

---

ตัวอย่างเวิร์กโฟลว์

- การอัปโหลดไฟล์

1. เลือกโหมด "อัปโหลดไฟล์"
2. อัปโหลดไฟล์ (เช่น example.pdf )
3. ประมวลผลและจัดเก็บไฟล์ในฐานข้อมูล

❓ การสอบถามฐานข้อมูล

1. เลือกโหมด "Query"
2. ป้อนคำถามภาษาธรรมชาติ
3. ได้รับการตอบสนองตามข้อเท็จจริง

---

- การปรับปรุงในอนาคต

• - เพิ่มความสามารถในการสืบค้นขั้นสูง
• ปรับปรุงการสนับสนุนสำหรับประเภทไฟล์เพิ่มเติมและการฝังตัว
• ⚡ปรับปรุงความสามารถในการปรับขนาดสำหรับชุดข้อมูลขนาดใหญ่

---

ใบอนุญาต โครงการนี้ได้รับใบอนุญาตภายใต้ ใบอนุญาต MIT

---

- กิตติกรรมประกาศ

• streamlit สำหรับ UI แบบโต้ตอบ
• Langchain และ Milvus สำหรับการประมวลผลเอกสารการดึงและเวกเตอร์ DB
• - Transformers สำหรับการสร้างแบบฝัง
• ? asy Easyocr สำหรับการสกัดข้อความภาพ
• - MoviePy สำหรับการประมวลผลวิดีโอ