RAG Architecture

؟ خرقة معالجة المستندات متعددة الوسائط مع Langchain؟

هذا المشروع هو تطبيق بديل لمعالجة المستندات متعددة الوسائط والاستعلام عن قاعدة بيانات Milvus . إنه يعزز الأدوات المتطورة مثل Langchain ، المحولات ، Easyoch ، وغيرها للمعالجة ، وتخزين ، والاستعلام عن النص المستخرج من أنواع الملفات المختلفة.

---

سمات

تحميل معالجة الملفات :

• يدعم أنواع الملفات المتعددة: audio ، video ، image ، text ، csv ، yaml ، json ، docx ، و pdf .
• يستخلص محتوى النص باستخدام:
  • ؟ الصوت : speech_recognition و pydub .
  • ؟ فيديو : منطق الاستخراج المخصص.
  • ؟ ️ الصورة : EasyOCR .
  • ؟ نص/سجلات/مستندات : Langchain Loaders.

تكامل ميلفوس :

• ️ متاجر معالجة الوثيقة تضمينات للاستعلام القائم على التشابه.
• ؟ يستخدم HuggingFaceEmbeddings لتوليد تمثيلات المتجهات.

؟ واجهة الاستعلام :

• واجهة استعلام اللغة الطبيعية.
• ينفذ خط أنابيب جيل (RAG) الذي تم تجهيزه للاسترجاع للاستجابات التي تحركها الذكاء الاصطناعي.

---

تثبيت

؟ المتطلبات الأساسية

• بيثون 3.8+
• pip أو conda Package Manager
• وحدة معالجة الرسومات المتوافقة مع CUDA (اختياري ، لمعالجة أسرع)

؟ شوكة واستنساخ المستودع

1. شوكة المستودع : انتقل إلى مستودع GitHub Github بالهندسة المعمارية وانقر فوق شوكة .

2. استنساخ المستودع المتشعب :

   git clone https://github.com/ < your-username > /RAG-Architecture.git
   cd RAG-Architecture
   

؟ تثبيت التبعيات

pip install -r requirements.txt

الاستخدام

ابدأ التطبيق

قم بتشغيل تطبيق SPEREMLIT:

streamlit run app.py

أوضاع التطبيق

؟ تحميل الملفات:

• قم بتحميل ملف لمعالجة وتخزين محتواه في Milvus.
• يعرض المحتوى المستخرج والمتاجر تضمينات في قاعدة البيانات.

❓ استعلام:

• أدخل سؤالاً للبحث واسترداد المعلومات ذات الصلة من قاعدة بيانات Milvus.
• إرجاع الاستجابات التي تم إنشاؤها من الذكاء الاصطناعى باستخدام خط أنابيب خرقة Langchain.

؟ بنية الملف

 # # ? **File Structure**

` ` ` bash
project/
│
├── app.py                      #  Main Streamlit application
├── requirements.txt            # ? Python dependencies
├── utils/                      #  Utility modules
│   ├── audio_utils.py          # ? Audio file processing
│   ├── video_utils.py          # ? Video file processing
│   ├── image_utils.py          # ?️ Image file processing
│   ├── document_loaders.py     #  Document processing loaders
│   ├── milvus_client.py        # ?️ Initializes Milvus database
│
├── milvus_database.db          # ?️ Milvus database file (auto-created)
├── Dataset                     #  Folder to store datasets
├── Images                      # ? Folder for storing images

؟ الوحدات الرئيسية

app.py

؟ منطق التطبيق الرئيسي

• يعامل تحميل الملفات ، ومعالجة المستندات ، والاستعلام.

utils/

• ؟ الصوت : يقسم الصوت إلى قطع وينسخ النص.
• ؟ الفيديو : يعالج ملفات الفيديو لاستخراج المحتوى وتحليله.
• ؟ ️ الصورة : يستخدم EasyOCR لاستخراج النص.
• سجلات/مستندات : معالجة ملفات CSV و YAML و JSON و PDF في مستندات Langchain منظمة.

---

مثال سير العمل

؟ تحميل ملف

1. حدد وضع "تحميل الملفات" .
2. قم بتحميل ملف (على سبيل المثال ، example.pdf ).
3. معالجة وتخزين الملف في قاعدة البيانات.

❓ الاستعلام عن قاعدة البيانات

1. حدد وضع "الاستعلام" .
2. أدخل سؤال اللغة الطبيعية.
3. الحصول على استجابة موجزة والقائمة على الحقائق.

---

؟ التحسينات المستقبلية

• ؟ إضافة المزيد من قدرات الاستعلام المتقدمة.
• تعزيز الدعم لأنواع الملفات الإضافية والتضمينات.
• ⚡ تحسين قابلية التوسع لمجموعات البيانات الكبيرة.

---

ترخيص هذا المشروع مرخص بموجب ترخيص معهد ماساتشوستس للتكنولوجيا .

---

؟ شكر وتقدير

• تدفق لواجهة المستخدم التفاعلية.
• Langchain و Milvus لمعالجة المستندات والاسترجاع والمتجه DB.
• ؟ محولات لتضمين توليد.
• ️ easyocr لاستخراج نص الصورة.
• ؟ MoviePy لمعالجة الفيديو.