llm webui

LLM-Webui

大規模な言語モデル用のグラデーションWeb UI（Finetune、Rag、Chat）。

チャットui

UIのトレーニング

視覚化UI

RAG（検索充電の生成）UI

特徴

• Finetune：lora/qlora
• Rag（検索された生成）：
  • TXT/PDF/DOCXをサポートします
  • 検索されたチャンクを表示します
  • Finetunedモデルをサポートします
• トレーニング追跡と視覚化
• UIを介した構成プロンプトテンプレート
• オンラインおよびオフラインモデルをサポートします
• オンラインおよびオフラインデータセットをサポートします

インストール

Python> = 3.8.0環境にRepoとInstraction.txtをインストールします

git clone https://github.com/wangermeng2021/llm-webui
cd llm-webui
pip install -r requirements.txt

走る

1。PythonMain.py

2.ハグフェイスハブトークンをセットします

Huggingface Hubからllama-2をダウンロードする場合は、トークンを構成する必要があります。「設定」 - >「ハグフェイスハブトークン」