local.ai

? local.ai

Aplikasi desktop untuk eksperimen AI lokal, pribadi, diamankan. Termasuk di luar kotak adalah:

• API model yang dikenal baik dan pengunduh model, dengan deskripsi seperti spesifikasi perangkat keras yang disarankan, lisensi model, hash blake3/sha256 dll ...
• Aplikasi pencatatan sederhana, dengan konfigurasi inferensi per catatan. Catatan dan konfigurasi output ke dalam teks. Format .mdx
• Server streaming inferensi model (/titik akhir penyelesaian, mirip dengan openai)

Ini dibuat untuk digunakan bersama https://github.com/alexanderatallah/window.ai/ sebagai cara sederhana untuk memiliki server inferensi lokal dan berjalan dalam waktu singkat. window.ai + local.ai Aktifkan setiap aplikasi web untuk memanfaatkan AI tanpa mengeluarkan biaya apa pun dari pengembang atau pengguna!

Saat ini, Local.ai menggunakan https://github.com/rustformers/llm Rust Crate pada intinya. Lihatlah, mereka sangat keren!

Memasang

Buka situs di https://www.localai.app/ dan klik tombol untuk arsitektur mesin Anda. Anda juga dapat menemukan build secara manual di halaman rilis GitHub.

Binari Windows dan MacOS ditandatangani di bawah Plasmo Corp. - Perusahaan yang dimiliki oleh penulis proyek ini (@LouisGV).

Anda juga dapat membangun dari sumber!

Demo

local.ai.demo.v0.2.x.mp4

? Perkembangan

Inilah cara menjalankan proyek secara lokal:

Prasyarat

1. Node> = 18
2. karat> = 1.69
3. PNPM> = 8

Alur kerja

 git submodule update --init --recursive
pnpm i
pnpm dev

? Lisensi

• Aplikasi Desktop/Web: GNU GPLV3
• SDK Klien: MIT

? Trivia

Kenapa ranselnya?

Ikatan ke dalam konsep Model Bawa Sendiri - Alex dari Window.ai

Mengapa gplv3?

Apa pun yang berhubungan dengan AI termasuk turunannya harus bersikap terbuka untuk diperiksa semua orang. GPLV3 menegakkan rantai open-source ini.

Apakah ada komunitas?

• Diskusi GitHub
• Lihat jajak pendapat ini

Di mana saya harus mengajukan pertanyaan?

• Di Sini

Saya membuat sesuatu dengan local.ai , di mana saya harus mempostingnya?

• Di Sini

Saya memiliki beberapa hal baik untuk dikatakan tentang local.ai , di mana saya harus mempostingnya?

• Di Sini
• Juga, pertimbangkan untuk memberikan repo bintang ️

Penamaan tampaknya dekat dengan localai?

• Ketika saya pertama kali memulai proyek dan mendapatkan domain localai.app, saya tidak tahu Localai adalah sesuatu. Seorang teman saya meneruskan saya tautan ke proyek itu pertengahan Mei, dan saya seperti dang, mari kita menambahkan satu titik dan menyebutnya sehari (untuk saat ini ...) - lokal "DOT" AI vs localai lol
• Kami mungkin mengganti nama proyek.

Apakah Anda menerima kontribusi/PR?

Tentu saja - harap dicatat bahwa setiap kontribusi terhadap repo ini akan dilepas berdasarkan GPLV3. Ada banyak cara untuk berkontribusi, seperti:

• Dokumentasi melalui Pengajuan Edit Wiki dan Dokumentasi Model yang Dikenal
• Menguji dan mengajukan masalah bug
• Untuk pemula, lihat masalah pertama yang bagus
• Untuk pengembang berpengalaman, lihat masalah yang diinginkan tanpa ditugaskan