llm webui

llm-webui

Uma interface da usuário da Web Gradio para grandes modelos de idiomas (Finetune, Rag, Chat).

Bate -papo interface

Treinamento de interface do usuário

Visualização da interface do usuário

Rag (geração de recuperação de recuperação) UI

Características

• Finetune: Lora/Qlora
• RAG (geração de recuperação de recuperação):
  • Suporte TXT/PDF/DOCX
  • Mostrar pedaços recuperados
  • Apoie o modelo FinetUned
• Rastreamento e visualização de treinamento
• Modelo de prompt de configuração através da interface do usuário
• Modelo online e offline online
• Suporte o conjunto de dados online e offline

Instalar

Clone repo e instalação requisitos.txt em um ambiente python> = 3.8.0

git clone https://github.com/wangermeng2021/llm-webui
cd llm-webui
pip install -r requirements.txt

Correr

1. Python main.py

2.

Se você deseja baixar o llama-2 do hub de huggingface, você precisa configurar o token: "Configuração"-> "hubgingface hub token"