LLMFarm
v1.4.1
stable stableインストール最新インストール
LLMFarmは、大規模な言語モデル（LLM）で動作するIOSおよびMACOSアプリです。特定のパラメーターを使用して異なるLLMをロードできます。LLMFarmを使用すると、iOSとMACOで異なるLLMのパフォーマンスをテストし、プロジェクトに最適なモデルを見つけることができます。
Georgi GerganovによるGGMLおよびllama.cppに基づいています。
ラマジェマファイ GPT2 +セレブラススターコダー（サンタコーダー） ファルコン MPT 咲く stablelm-3b-4e1t Qwen yiモデル DeepSeekモデル Mixtral Moe PLAMO-13B マンバ RWKV Gptneoxこちらの完全なリストを参照してください。
注： Falcon、Alpaca、Gpt4all、中国のLlama / Alpaca、および中国のLlama-2 / Alpaca-2、Vigogne（フランス語）、Vicuna、Koala、Openbuddy（多言語）、Pygmalion / Metharme、Wizardlm、Baichuan 1＆2 + derivation、 Aquila 1＆2、Mistral AI V0.1、リファクト、Perimmon 8B、MPT、ブルームはモデル設定でllama inferenceを選択します。
FAQセクションでいくつかの質問に対する回答を見つけることができます。
チャットを作成すると、JSONファイルが生成され、追加の推論オプションを指定できます。チャットファイルは「チャット」ディレクトリにあります。ここでは、すべての推論オプションを確認できます。
サポートされているモデルのいくつかはこちらで見つけることができます。
llmfarm_core別のリポジトリに移動されました。 LLMFarmを構築するには、このリポジトリを再帰的にクローンする必要があります。
git clone --recurse-submodules https://github.com/guinmoon/LLMFarm
