Wingman

Pretrain Model Pembelajaran Mesin Anda (LLM) dengan data Anda sendiri
Dilengkapi dengan generator embedding otomatis dan antarmuka T&J model
Lihat Demo · Laporkan Bug · Fitur Permintaan

Daftar isi

1. Tentang proyek
   • Animasi demo
   • Dibangun dengan
2. Memulai
   • Prasyarat
   • Instalasi
3. Penggunaan
4. Peta jalan
5. Berkontribusi
6. Lisensi
7. Kontak
8. Ucapan Terima Kasih

Tentang proyek

Secara otomatis pretrain model pembelajaran mesin Anda (LLM) dengan:

• File PDF
• Repositori gitub
• File html yang dikikis di folder lokal

Alat ini akan menerima input dalam bentuk URL repo github, file pdf, atau folder file html lokal dan melakukan tindakan berikut:

 generate_embedding_github/pdf.py
• Break apart your input data into manageable chunks
• Send chunked data to Ray Serve Cluster
• Use Ray Cluster to create an embedding from our input chunks

serve run serve:deployment
• Use Ray Cluster to download a Foundational Model
• Load Foundation Model with our Embedding on top
• Start a WebServer and make the Model available via api

query.py "what is the api endpoint to get a list of agents"
• Allow you to interface with the model through the API

Perangkat ini untuk siapa saja yang ingin melatih LLM pada sumber pengetahuan tertentu dengan cara yang sederhana, di mana semua pengangkatan berat telah diabstraksi di belakang layar

Wingman dibangun di atas ray cluster sehingga dapat diukur dan didistribusikan, atau dapat dijalankan hanya pada satu mesin.

---

Animasi demo

⬆️

Dibangun dengan

Proyek ini (dan banyak lainnya) tidak akan mungkin terjadi tanpa berikut:

Link	Nama	Pengembang	Keterangan
Link	Faiss	Penelitian Facebook	Perpustakaan untuk pencarian kesamaan yang efisien dan pengelompokan vektor padat.
Link	Langchain	Langchain	Langchain adalah kerangka kerja untuk mengembangkan aplikasi yang ditenagai oleh model bahasa.
Link	Sinar	Proyek Ray	Ray adalah kerangka kerja terpadu untuk menskalakan aplikasi AI dan Python. Ray terdiri dari runtime terdistribusi inti dan satu set perpustakaan AI untuk mempercepat beban kerja ML.
Link	Python	Python Software Foundation	Python adalah bahasa pemrograman tujuan umum tingkat tinggi. Filosofi desainnya menekankan keterbacaan kode dengan penggunaan indentasi yang signifikan.
Link	Pytorch	Linux Foundation	Tensor dan jaringan saraf dinamis di Python dengan akselerasi GPU yang kuat.
Link	Sup yang indah	Leonard Richardson	Sup indah adalah perpustakaan Python untuk menarik data dari file HTML dan XML. Ini bekerja dengan parser favorit Anda untuk memberikan cara -cara idiomatik menavigasi, mencari, dan memodifikasi pohon parse.
Link	Typing_inspect	Ivan Levkivskyi	Modul typing_inspect mendefinisikan API eksperimental untuk inspeksi runtime jenis yang ditentukan dalam modul pengetikan standar python.

⬆️

Memulai

Untuk mendapatkan salinan lokal dan berjalan ikuti langkah -langkah sederhana ini.

Prasyarat

• 16+GB VRAM (24GB direkomendasikan)
• Linux atau WSL
• Apapun lingkungan virtual Python yang Anda inginkan
  (Kami menyukai miniconda)

Instalasi

Setelah Anda berada di folder proyek dan memiliki lingkungan VENV/CONDA Anda dimuat, jalankan berikut ini:

1. Pip instal -r persyaratan.txt
2. python generate_embedding_pdf.py ./pathto/local.pdf
3. (Opsional) Modifikasi prompt di serve.py on line 30 agar sesuai dengan kasing Anda
4. Sajikan Run Serve: Penempatan
5. python query.py "Apa titik akhir API untuk menonaktifkan pengumpulan data untuk agen yang ditentukan"

Menambahkan peluncur sementara serta UI keduanya berada di peta jalan saat ini untuk edisi open source ini.

⬆️

Penggunaan

 python query.py "what is the api endpoint to disable data collection for a specified agent"
/api/sn_agent/agents/{agent_id}/data/off.

python query.py "what is the api endpoint for the ActivitySubscriptions API"
The API endpoint for the ActivitySubscriptions API is /now/actsub/activities.

python query.py "what is the api endpoint to get a list of agents"
The API endpoint to get a list of agents is "/api/sn_agent/agents/list.

python query.py "what is the api endpoint of the Agent Client Collector API"
The API endpoint of the Agent Client Collector API is "https://<sn_agent-host>:<sn_agent-port>/api/agent-client-collector/admin".

⬆️

Peta jalan

Untuk fitur-fitur tambahan seperti kutipan nomor halaman, kelengkapan bahasa pemrograman tambahan, pipa multi-llm (merangkum bagian-bagian yang relevan untuk pemanfaatan konteks yang lebih baik), dukungan model mulimodal (melatih pengetahuan Anda yang disematkan berdasarkan data dalam gambar), peningkatan akurasi dalam sumber vektor (vektor cloud), dukungan agen (vektor cloud), dukungan lengkap berdasarkan fakta-fakta dalam fakta-fakta dalam sumber vektor 3D), vektor cloud), dukungan agen (vektor cloud). Suite Perangkat Lunak.

• Buat readme
• Buat persyaratan.txt
• Persyaratan Persyaratan.txt
• Skrip peluncur dasar
• Tangkapan layar
• Antarmuka pengguna
• PERPUSTAKAAN MENYENANGKAN
• Dukungan model terkuantisasi
• trust_remote_code via kwargs
• Dukungan device_map canggih
• Dukungan multi-bahasa
  • Cina
  • Spanyol
  • Rusia

Lihat masalah terbuka untuk daftar lengkap fitur yang diusulkan (dan masalah yang diketahui).

⬆️

Berkontribusi

Kontribusi inilah yang membuat komunitas open source menjadi tempat yang luar biasa untuk belajar, menginspirasi, dan menciptakan. Kontribusi apa pun yang Anda buat sangat dihargai .

Jika Anda memiliki saran yang akan membuat ini lebih baik, silakan garukan repo dan buat permintaan tarik. Anda juga bisa membuka masalah dengan tag "peningkatan". Jangan lupa memberi proyek bintang! Terima kasih lagi!

1. Garpu proyek
2. Buat Cabang Fitur Anda ( git checkout -b feature/AmazingFeature )
3. Komit perubahan Anda ( git commit -m 'Add some AmazingFeature' )
4. Dorong ke cabang ( git push origin feature/AmazingFeature )
5. Buka permintaan tarik

⬆️

Lisensi

Penggunaan komersial dilarang.

Hubungi kami untuk lisensi komersial untuk versi perusahaan kami.

⬆️

Kontak

Christian Mirra - LinkedIn

Tautan Proyek: https://github.com/seemirra/wingman/

⬆️

Ucapan Terima Kasih

TODO - Daftar ini saat ini tidak lengkap

⬆️