محسّنة بنية راغة
باستخدام Langchain كإطار محسّن بنية خرقة من مشروعي السابق ، مثل
- بدلاً من تشغيل النموذج المحلي. أفضل استخدام واجهة برمجة التطبيقات من SOLLE.AI حتى لا أدمر الكمبيوتر المحمول في القيام بذلك. (كما أنها توفر نموذجًا أفضل ، وبالتالي فإن نتيجة المطالبة هي أفضل). يمكنني أيضًا ضبط معلمة LLM للحصول على نتائج أفضل أو ربما اختيار النموذج لحالة الاستخدام الخاصة بي.
- إصلاح مشكلة التضخيم باستخدام LLM (مجموعة دلالية) باعتبارها المداخن بدلاً من الضبط اليدوي.
- أعد كتابة الاستعلام باستخدام LLM قبل تحويله إلى متجه لغرض استرجاع لتحسين الاسترجاع.
- باستخدام كل من البحث الدلالي (السياق) والبحث المعجمي (الكلمة الرئيسية) عن المتجه DB ، وهو FAISS (بحث تشابه AI Facebook).
- Reranking+خوارزمية Autocut بعد الاسترجاع لتحسين الإخراج.
يمكن أيضًا تنفيذ RAGAS في هذا المشروع ، وهو معايير بنية RAG ، هناك طريقة أخرى لـ RAG التي أهتم بها حقًا مثل GraphRag.
ملاحظة
- verrry verrry verrry بطيئة ، أنصحك فقط باستخدام الفاصل العادي للنص مع حجم ثابت وتداخل للأداء الأسرع
- إذا كنت لا ترغب في استضافة DB في محلي ، فيمكنك استخدام خدمات مثل Pinecone أو Mongodb Atlas وإنشاء مجموعة
- أنصحك باستخدام نموذج آخر للاستدلال وإعادة كتابة ، والعثور على أفضل ما في حالة usecase الخاصة بك
Skibidi Sigma Rizz +1000 Aura
