Laboratório de Transformador
Faça o download, interaja e Finetune Models localmente.
Explore os documentos »
View Demo · Relatório Bugs · sugerir recursos · Junte -se à discórdia · Siga no Twitter
Nota: O Transformer Lab está sendo trabalhado ativamente. Junte -se à nossa discórdia ou siga -nos no Twitter para obter atualizações. Perguntas, feedback e contribuições são altamente valorizadas!
Baixar agora
Sobre o projeto
O Transformer Lab é um aplicativo que permite que qualquer pessoa experimente modelos de idiomas grandes.
Apoiado por Mozilla
O Transformer Lab tem orgulho de ser apoiado por Mozilla através do Programa Mozilla Builders
Características
O laboratório de transformadores permite:
- ? Com um clique, baixe centenas de modelos populares :
- Llama3, phi3, Mistral, Mixtral, Gemma, Command-R e dezenas mais
- ⬇ Baixe qualquer LLM de Huggingface
- ? Finetune / Train em hardware diferente
- Finetune usando MLX no Apple Silicon
- Finetune usando Huggingface na GPU
- ⚖️ RLHF e otimização de preferência
- DPO
- Orpo
- Simpo
- Modelagem de recompensa
- Trabalhe com o LLMS nos sistemas operacionais :
- Aplicativo Windows
- Aplicativo macOS
- Linux
- Converse com modelos
- Bater papo
- Conclusões
- Prompts predefinidos (modificados)
- História do bate -papo
- Parâmetros de geração de ajustes
- Inferência em lotes
- Calling / Função da ferramenta (em alfa)
- ? Use diferentes motores de inferência
- MLX no Apple Silicon
- Transformadores de Huggingface
- vllm
- LLAMA CPP
- ? ? Avalie modelos
- RAG (geração aumentada em volta)
- Arraste e solte o usuário do arquivo
- Funciona na Apple MLX, Transformers e outros motores
- ? Construir conjuntos de dados para treinamento
- Puxe de centenas de conjuntos de dados comuns disponíveis no Huggingface
- Forneça seu próprio conjunto de dados usando arrastar e soltar
- ? Calcule incorporação
- ? API de descanso completo
- ? Correr na nuvem
- Você pode executar a interface do usuário em seu desktop/laptop enquanto o motor é executado em uma máquina remota ou em nuvem
- Ou você pode executar tudo localmente em uma única máquina
- ? Converter modelos entre plataformas
- Converter de/para huggingface, mlx, gguf
- ? Suporte ao plug -in
- Puxar facilmente de uma biblioteca de plugins existentes
- Escreva seus próprios plugins para estender a funcionalidade
- ? Editor de código Monaco incorporado
- Edite plugins e veja o que está acontecendo nos bastidores
- Edição rápida
- Editar mensagens do sistema facilmente ou modelos imediatos
- Logs de inferência
- Enquanto fazia inferência ou pano, veja um tronco das consultas brutas enviadas ao LLM
E você pode fazer o exposto acima, durante uma GUI simples de plataforma cruzada.
Começando
Clique aqui para baixar o laboratório Transformer.
Leia esta página para aprender a instalar e usar.
Construído com
Desenvolvedores
Construindo do zero
Para construir o aplicativo, puxe este repositório e siga as etapas abaixo:
Embalagem para produção
Para empacotar aplicativos para a plataforma local:
Licença
Distribuído sob a licença AGPL V3. Consulte LICENSE.txt para obter mais informações.
Referência
Se você achou o Laboratório de Transformer útil em sua pesquisa ou aplicativos, cite o seguinte Bibtex:
@software{transformerlab,
author = {Asaria, Ali},
title = {Transformer Lab: Experiment with Large Language Models},
month = December,
year = 2023,
url = {https://github.com/transformerlab/transformerlab-app}
}
Contato
- @aliasaria - Ali Asaasria
- @DadMobile - Tony SalomOne
