LLMFarm
v1.4.1
تثبيت تثبيت مستقر أحدث
LLMFARM هو تطبيق iOS و MACOS للعمل مع نماذج لغة كبيرة (LLM). يتيح لك تحميل LLMs مختلفة مع معلمات معينة. مع LLMFARM ، يمكنك اختبار أداء LLMs المختلفة على iOS و MACOS وإيجاد النموذج الأنسب لمشروعك.
بناءً على GGML و Llama.cpp بواسطة Georgi Gerganov.
لاما جيما فاي GPT2 + الدماغ Starcoder (Santacoder) فالكون MPT يزدهر Stablelm-3b-4e1t Qwen نماذج يي نماذج ديبسيك Mixtral Moe PLAMO-13B مامبا RWKV gptneoxانظر القائمة الكاملة هنا.
ملاحظة: بالنسبة إلى Falcon و Alpaca و GPT4ALL و Llama / Alpaca الصينية واللاما -2 / الألباكا -2 ، فيغون (فرنسية) ، فيكونا ، كوالا ، OpenBuddy (متعدد اللغات) ، Pygmalion / Metharme ، Wizardlm ، Baichuan 1 & 2 + + Aquila 1 & 2 ، Mistral AI v0.1 ، refact ، persimmon 8B ، MPT ، Bloom Select llama inference in Model Pettings.
يمكنك العثور على إجابات لبعض الأسئلة في قسم الأسئلة الشائعة.
عند إنشاء دردشة ، يتم إنشاء ملف JSON حيث يمكنك تحديد خيارات الاستدلال الإضافية. توجد ملفات الدردشة في دليل "الدردشات". يمكنك رؤية جميع خيارات الاستدلال هنا.
يمكنك العثور على بعض النماذج المدعومة هنا.
تم نقل llmfarm_core إلى مستودع منفصل. لبناء llmfarm ، تحتاج إلى استنساخ هذا المستودع بشكل متكرر:
git clone --recurse-submodules https://github.com/guinmoon/LLMFarm
