Lab transformator
Unduh, berinteraksi, dan model Finetune secara lokal.
Jelajahi dokumen »
Lihat Demo · Laporkan Bug · Sarankan Fitur · Bergabunglah dengan Perselisihan · Ikuti di Twitter
Catatan: Transformer Lab secara aktif sedang dikerjakan. Silakan bergabung dengan perselisihan kami atau ikuti kami di Twitter untuk pembaruan. Pertanyaan, umpan balik, dan kontribusi sangat dihargai!
Unduh sekarang
Tentang proyek
Transformer Lab adalah aplikasi yang memungkinkan siapa saja untuk bereksperimen dengan model bahasa besar.
Didukung oleh Mozilla
Transformer Lab bangga didukung oleh Mozilla melalui program Mozilla Builders
Fitur
Transformer Lab memungkinkan Anda untuk:
- ? Unduh satu klik ratusan model populer :
- Llama3, phi3, mistral, mixtral, gemma, command-r, dan lusinan lagi
- ⬇ Unduh LLM dari Huggingface
- ? Finetune / latih di berbagai perangkat keras
- Finetune menggunakan MLX pada silikon apel
- Finetune menggunakan Huggingface di GPU
- ⚖️ RLHF dan optimasi preferensi
- Dpo
- Orpo
- Simpo
- Pemodelan hadiah
- Bekerja dengan LLM di seluruh sistem operasi :
- Aplikasi Windows
- Aplikasi MacOS
- Linux
- Mengobrol dengan model
- Mengobrol
- Penyelesaian
- Prompt preset (templated)
- Riwayat obrolan
- Parameter Generasi Tweak
- Inferensi Batched
- Penggunaan Alat / Panggilan Fungsi (dalam Alpha)
- ? Gunakan mesin inferensi yang berbeda
- MLX pada silikon apel
- Transformator Huggingface
- vllm
- Llama cpp
- ? ? Mengevaluasi model
- Rag (Retreival Augmented Generation)
- Seret dan lepas file UI
- Bekerja pada Apple MLX, Transformers, dan Mesin Lainnya
- ? Bangun Dataset untuk Pelatihan
- Tarik dari ratusan dataset umum yang tersedia di Huggingface
- Berikan dataset Anda sendiri menggunakan drag and drop
- ? Hitung embeddings
- ? API istirahat penuh
- ? Jalankan di Cloud
- Anda dapat menjalankan antarmuka pengguna di desktop/laptop Anda saat mesin berjalan pada mesin jarak jauh atau cloud
- Atau Anda dapat menjalankan semuanya secara lokal di satu mesin
- ? Konversi model di seluruh platform
- Konversi dari/ke Huggingface, MLX, GGUF
- ? Dukungan plugin
- Tarik dengan mudah dari perpustakaan plugin yang ada
- Tulis plugin Anda sendiri untuk memperluas fungsionalitas
- ? Editor Kode Monako Tertanam
- Edit plugin dan lihat apa yang terjadi di balik layar
- Pengeditan cepat
- Dengan mudah mengedit pesan sistem atau template prompt
- Log inferensi
- Saat melakukan inferensi atau kain, lihat log pertanyaan mentah yang dikirim ke LLM
Dan Anda dapat melakukan hal di atas, semua melalui GUI lintas platform sederhana.
Memulai
Klik di sini untuk mengunduh lab Transformer.
Baca halaman ini untuk mempelajari cara menginstal dan menggunakan.
Dibangun dengan
Pengembang
Membangun dari awal
Untuk membangun aplikasi sendiri, tarik repo ini, dan ikuti langkah -langkah di bawah ini:
Kemasan untuk produksi
Untuk mengemas aplikasi untuk platform lokal:
Lisensi
Didistribusikan di bawah lisensi AGPL V3. Lihat LICENSE.txt untuk informasi lebih lanjut.
Referensi
Jika Anda menemukan lab transformator berguna dalam penelitian atau aplikasi Anda, silakan mengutip menggunakan BIBTEX berikut:
@software{transformerlab,
author = {Asaria, Ali},
title = {Transformer Lab: Experiment with Large Language Models},
month = December,
year = 2023,
url = {https://github.com/transformerlab/transformerlab-app}
}
Kontak
- @aliasaria - Ali Asasria
- @DadMobile - Tony Salomone
