Medical RAG using Bio Mistral 7B Download - Medical RAG using Bio Mistral 7B Downcy Code Download

Medical RAG using Bio Mistral 7B

شفرة المصدر الأخرى

1.0.0

تنزيل

قم ببناء تطبيق خرقة طبية باستخدام Biomistral و Qdrant و Llama.cpp

هذا هو تطبيق خرقة باستخدام مكدس المصدر المفتوح. تم استخدام Biomistral 7B لبناء هذا التطبيق إلى جانب PubMedbert كنموذج للتضمين ، و QDrant كمتجهات مستضافة ذاتيًا ، و Langchain & Llama CPP كأطر تنسيق.

الوصف والميزات الرئيسية:

قم بإنشاء تطبيق تجويف معزز للاسترجاع الطبي (RAG) باستخدام مجموعة من التقنيات القوية المصممة للمجال الطبي.
Biomistral 7B ، نموذج لغة كبير جديد مصمم خصيصًا للتطبيقات الطبية ، ويوفر دقة لا مثيل لها ونظرة ثاقبة في الاستعلامات الطبية المعقدة.
QDrant ، قاعدة بيانات متجه مستضافة ذاتيا نديرها داخل حاوية Docker. تعمل هذه الأداة القوية كعمود خارجي لإدارة واسترداد ناقلات البيانات عالية الأبعاد ، مثل تلك التي تم إنشاؤها بواسطة نموذج لغتنا الطبية.
لتعزيز فهم نموذجنا للنصوص الطبية ، أستخدم تضمينات PubMed Bert ، وهو نموذج تم تضمينات مصمم خصيصًا للمجال الطبي.
هذا يضمن أن تطبيقنا يمكن أن يدرك الفروق الدقيقة في الأدب الطبي والاستعلامات ، مما يوفر إجابات أكثر دقة وذات صلة.
أحد المكونات الحاسمة في إعدادنا هو llama.cpp ، وهي مكتبة تتيح استنتاج نماذج اللغة الكبيرة على آلات وحدة المعالجة المركزية. يتيح هذا النهج النموذجي الكمي نشر فعال وفعال من حيث التكلفة دون المساس بالأداء.
لتنسيق مكونات التطبيق لدينا ، أقدم Langchain ، وهو إطار تنسيق يدمج بأدواتنا وخدماتنا بسلاسة ، مما يضمن التشغيل السلس والقابلية للتوسع.
على الواجهة الخلفية ، أقوم بالاستفادة من Fastapi ، وهو إطار ويب حديث وسريع (عالي الأداء) لبناء واجهات برمجة التطبيقات مع Python 3.7+. يوفر Fastapi السرعة وسهولة الاستخدام اللازمة لإنشاء الواجهة الخلفية المستجيبة والفعالة لتطبيق RAT الطبية لدينا.
أخيرًا ، بالنسبة إلى واجهة المستخدم على الويب ، أستخدم Bootstrap 5.3 ، وهو أحدث إصدار من مجموعة أدوات Open Source الأكثر شعبية في العالم. يمكّننا ذلك من إنشاء واجهة مستخدم أنيقة وبديهية ومستجيبة للهاتف المحمول مما يجعل تطبيق RAT الطبي لدينا يمكن الوصول إليه وسهل الاستخدام.
أنشأنا البيئة لدمج هذه التقنيات في تطبيق خرقة طبية متماسكة وعملية.