barq
v0.71.0
Dabarqus هو تطبيق مستقل ينفذ حل خرقة كاملة. إنه مصمم ليكون سهل الاستخدام وسهل الاندماج مع تطبيقاتك الحالية. يتضمن Dabarqus واجهة برمجة تطبيقات REST ، وواجهة سطر الأوامر ، ولوحة معلومات المسؤول.
إذا كنت مطورًا ، فإن بناء حل خرقة أساسي أمر واضح ومباشر. هناك الكثير من البرامج التعليمية والرزلية وكذلك رمز الثعبان لإعادة استخدامها. ولكن ، إذا كنت تقوم بنشر حل RAG الخاص بك داخل شركة ، أو لأجهزة الكمبيوتر المستخدمين النهائي ، فسيتعين عليك أيضًا معرفة بعض مشكلات النشر والصيانة الصعبة المحتملة. وهذا يعني أيضًا نشر Python ، وقاعدة بيانات المتجهات ، ونموذج التضمين الصحيح ، وتحديات الترخيص المحتملة. تم إنشاء Dabarqus لمعالجة هذه المشكلات مع حل مستقل وجميع في واحد مع عدم وجود تبعيات. إنه مكتوب في C ++ منخفض المستوى مع إمكانيات البحث المدمجة المدمجة ، والمرونة لاستخدام نموذج AI التضمين الذي يعد أفضل لحالة الاستخدام الخاصة بك ، و API REST لسهولة تكامل التطوير.
يعمل Dabarqus على وحدة المعالجة المركزية فقط ، أو يمكنه استخدام Nvidia CUDA من أجل أداء أعلى. للحصول على إصدار CUDA (المعروف أيضًا باسم NVIDIA Cublas) ، ستحتاج إلى تثبيت برنامج تشغيل NVIDIA. لا يتطلب إصدار وحدة المعالجة المركزية أي برنامج إضافي. لاحظ أنه لاستخدام إصدار CUDA ، ستحتاج إلى الحصول على وحدة معالجة الرسومات NVIDIA مع دعم CUDA ، وتنزيل إصدار CUDA من Dabarqus.
لتثبيت برامج تشغيل NVIDIA على Ubuntu (إذا كان لديك GPU NVIDIA) ، قم بتشغيل الأمر التالي:
sudo ubuntu-drivers installقم بفك ضغط ملف dabarqus في مجلد
unzip Dabarqus-linux-DOWNLOADED_VERSION.zip
cd Dabarqus-linux-DOWNLOADED_VERSION
chmod +x ./bin/ *
./bin/barq service install افتح متصفحًا وانتقل إلى http://localhost:6568/admin
لتنزيلات ملفات الحزمة ، قم بما يلي:
http://localhost:6568/adminلتنزيلات ملف zip ، قم بما يلي:
قم بفك ضغط ملف dabarqus في مجلد
unzip Dabarqus-linux-DOWNLOADED_VERSION.zip
cd Dabarqus-linux-DOWNLOADED_VERSION
./bin/barq service install افتح متصفحًا وانتقل إلى http://localhost:6568/admin
http://localhost:6568/admin مستندات الاستيعاب ، وقواعد البيانات ، وواجهة برمجة التطبيقات : تناول مصادر بيانات متنوعة مثل PDFS*، ورسائل البريد الإلكتروني ، والبيانات الأولية.
مطالبة على غرار LLM : استخدم مطالبات Simple ، LLM عند التحدث إلى بنوك الذاكرة.
REST API : واجهة تحكم شاملة لتنزيل النماذج ، وضغط الفهارس الدلالية ، وحتى الاستدلال LLM.
فهارس دلالية متعددة (بنوك الذاكرة) : قم بتجميع بياناتك في فهارس دلالية منفصلة (بنوك الذاكرة).
SDKS : SDKs الأصليين في بيثون وجافا سكريبت.
الإخراج الصديق LLM : ينتج إخراج LLM جاهز يعمل مع ChatGPT و Ollama وأي موفر LLM آخر
لوحة معلومات المسؤول : مراقبة الأداء ، واختبار بنوك الذاكرة ، وإجراء تغييرات في واجهة مستخدم سهلة الاستخدام
Mac و Linux و Windows دعم : يتم تشغيله أصلاً مع تبعيات صفرية على جميع الأنظمة الأساسية: MacOS (Intel أو Metal) و Linux و Windows (وحدة المعالجة المركزية أو GPU)
الاستدلال LLM : الدردشة مع طرز LLM مباشرة من خلال DABARQUS API/SDKS
*Dabarqus Professional Edition مطلوب للبريد الإلكتروني والرسائل ودعم واجهة برمجة التطبيقات.
للتثبيت: barq service install
لإلغاء التثبيت: barq service uninstall
الاستخدام: barq store --input-path <path to folder> --memory-bank "<memory bank name>"
مثال: barq store --input-path C:docs --memory-bank documents
الاستخدام: barq retrieve --memory-bank "<memory bank name>"
barq retrieve --memory-bank documentsbarq retrieve --memory-bank documents --query "Tell me about the documents" --query-limit 3 سيعرض ثلاث إجابات على الاستعلام من بنك الذاكرة "المستندات" | طريقة | نقطة النهاية | وصف | حدود |
|---|---|---|---|
| يحصل | /الصحة أو /API /الصحة | تحقق من الحالة الصحية للخدمة | لا أحد |
| يحصل | /مسؤل/* | خدمة تطبيق المسؤول | لا أحد |
| يحصل | /Odobo/* | خدمة تطبيق Odobo | لا أحد |
| يحصل | /API/النماذج | استرداد نماذج الذكاء الاصطناعي المتاحة | لا أحد |
| يحصل | /API/Model/Metadata | احصل على بيانات التعريف لنموذج معين | modelRepo ، filePath (اختياري) |
| يحصل | /API/التنزيلات | احصل على معلومات حول العناصر التي تم تنزيلها | modelRepo (اختياري) ، filePath (اختياري) |
| يحصل | /API/التنزيلات/enqueue | enqueue تنزيل جديد | modelRepo ، filePath |
| يحصل | /API/تنزيلات/إلغاء | إلغاء التنزيل | modelRepo ، filePath |
| يحصل | /API/تنزيلات/إزالة | قم بإزالة عنصر تم تنزيله | modelRepo ، filePath |
| يحصل | /API/الاستدلال | احصل على معلومات حول عناصر الاستدلال | alias (اختياري) |
| يحصل | /API/الاستدلال/البدء | ابدأ الاستدلال | alias ، modelRepo ، filePath ، address (اختياري) ، port (اختياري) ، contextSize (اختيارية) ، gpuLayers (اختياري) ، chatTemplate (اختياري) |
| يحصل | /API/الاستدلال/توقف | توقف عن الاستدلال | alias |
| يحصل | /API/الاستدلال/الحالة | احصل على حالة الاستدلال | alias (اختياري) |
| يحصل | /API/الاستدلال/إعادة تعيين | إعادة ضبط الاستدلال | alias |
| يحصل | /API/الاستدلال/إعادة التشغيل | أعد تشغيل الاستدلال الحالي | لا أحد |
| يحصل | /API/الأجهزة أو/API/hardwareinfo | الحصول على معلومات الأجهزة | لا أحد |
| يحصل | /API/الحرير | احصل على حالة الذاكرة | لا أحد |
| يحصل | /API/الحرير/تمكين | تمكين الذكريات | لا أحد |
| يحصل | /API/حرير/تعطيل | تعطيل الذكريات | لا أحد |
| يحصل | /API/Silk/MemoryBanks | احصل على معلومات بنوك الذاكرة | لا أحد |
| يحصل | /API/Silk/MemoryBank/تنشيط | تنشيط بنك الذاكرة | memorybank |
| يحصل | /API/Silk/MemoryBank/Deactivate | إلغاء تنشيط بنك الذاكرة | memorybank ، all |
| يحصل | /API/Silk/Query | إجراء استعلام دلالي | (المعلمات التي تعالجها الحرير المسترد) |
| يحصل | /API/الحرير/الصحة | تحقق من صحة المسترد الحريري | لا أحد |
| يحصل | /API/Silk/Model/Metadata | احصل على بيانات بيانات النموذج من المسترد الحريري | (المعلمات التي تعالجها الحرير المسترد) |
| يحصل | /API/إيقاف التشغيل | بدء إيقاف تشغيل الخادم | لا أحد |
| بريد | /API/utils/log | اكتب للتسجيل | جسم JSON مع تفاصيل السجل |
| بريد | /API/الحرير/التضمين | احصل على تضمين من المسترد الحريري | (المعلمات التي تعالجها الحرير المسترد) |
curl http://localhost:6568/api/silk/query?q=Tell%20me%20about%20the%20documents&limit=3&memorybank=docs يمكن العثور على أمثلة من dabarqus في العمل في هذا الريبو تحت أمثلة .
