ollama grid search
v0.7.0
يقوم هذا المشروع بأتمتة عملية اختيار أفضل النماذج أو المطالبات أو معلمات الاستدلال لحالة استخدام معينة ، مما يتيح لك التكرار على مجموعاتها وتفتيش النتائج بصريًا.
يفترض أن Ollama مثبتة وتقديم نقاط النهاية ، إما في localhost أو في خادم بعيد.
إليك ما يبدو أن تجربة موجه بسيط ، تم اختباره على 3 نماذج مختلفة ، مثل:
(لإلقاء نظرة أكثر تعمقا على عملية تقييم بمساعدة هذه الأداة ، يرجى التحقق من https://dezoito.github.io/2023/12/27/rust-ollama-grid-search.html).
تحقق من صفحة الإصدارات للمشروع ، أو على الشريط الجانبي.
من الناحية الفنية ، يشير مصطلح "بحث الشبكة" إلى التكرار على سلسلة من أشكال النماذج المختلفة لتحسين أداء النموذج ، ولكن هذا يعني عادةً معلمات مثل batch_size أو learning_rate أو number_of_epochs ، أكثر شيوعًا في التدريب.
لكن المفهوم هنا مشابه:
يتيح تحديد مجموعة مختارة من النماذج ، موجه وبعض مجموعات المعلمات:
سيتم إرسال المطالبة مرة واحدة لكل قيمة معلمة ، لكل واحد من النماذج المحددة ، وإنشاء مجموعة من الاستجابات.
وبالمثل ، يمكنك إجراء اختبارات A/B عن طريق تحديد نماذج مختلفة ومقارنة النتائج لنفس موجه/مجموعة المعلمة ، أو اختبار مطالبات مختلفة ضمن تكوينات مماثلة:
مقارنة نتائج المطالبات المختلفة لنفس النموذج
يمكنك حفظ المطالبات وإدارتها (نريد جعل المطالبات متوافقة مع Webui المفتوح)
يمكنك الإكمال التلقائي عن طريق الكتابة "/" (مستوحاة من Open Webui ، أيضًا):
يمكنك إدراج تجاربك أو تفتيشها أو تنزيلها:
للحصول على الأخطاء الواضحة والأخطاء الإملائية ، يرجى المضي قدمًا وتقديم العلاقات العامة.
إذا كنت ترغب في اقتراح ميزة جديدة ، أو تغيير الوظائف الحالية ، أو اقتراح أي شيء أكثر تعقيدًا ، فيرجى فتح مشكلة للمناقشة ، قبل إنجاز العمل على العلاقات العامة.
تأكد من تثبيت الصدأ.
استنساخ المستودع (أو الشوكة)
git clone https://github.com/dezoito/ollama-grid-search.git
cd ollama-grid-searchتثبيت تبعيات الواجهة الأمامية.
cd < project root >
# I'm using bun to manage dependencies,
# but feel free to use yarn or npm
bun install تأكد من تكوين rust-analyzer لتشغيل Clippy عند التحقق من الرمز.
إذا كنت تقوم بتشغيل الكود مقابل ، أضف هذا إلى ملف settings.json الخاص بك
{
...
"rust-analyzer.check.command" : " clippy " ,
}(أو الأفضل من ذلك ، ما عليك سوى استخدام ملف الإعدادات المتوفرة بالرمز)
قم بتشغيل التطبيق في وضع التطوير
cd < project root > /
bun tauri devاذهب للاستيلاء على فنجان من القهوة لأن هذا قد يستغرق بعض الوقت.
استشهدت الأعمال والأطراف التالية هذا المستودع:
Inouye ، D & Lindo ، L ، & Lee ، R & Allen ، e ؛ أطروحات والهندسة في علوم الكمبيوتر والهندسة: صقل السيارات التطبيقي على جامعة لورا سانتا كلارا ، 2024 https://scholarcommons.scu.edu/cgi/viewcontent.cgi؟article=1271&context=cseng_senior.
شكر كبير لـ fabianlars ، @peperroni21 و tomreidnz.
