local.ai

? local.ai

Um aplicativo de desktop para experimentação local, privada e garantida. Incluídos estão prontos para fora da caixa:

• Uma API de modelo de boa parte e um downloader modelo, com descrições como especificações de hardware recomendadas, licença de modelo, Blake3/SHA256 Hashes etc ...
• Um aplicativo simples de anotações, com configuração de inferência por nota. A nota e sua configuração são emitidas em texto simples .mdx formato
• Um modelo de transmissão de inferência (endpoint de conclusão, semelhante ao OpenAI)

É feito para ser usado ao lado de https://github.com/alexanderatallah/window.ai/ como uma maneira simples de ter um servidor de inferência local em funcionamento em nenhum momento. window.ai + local.ai Ative todos os aplicativos da web a utilizar a IA sem incorrer em nenhum custo do desenvolvedor ou do usuário!

No momento, Local.ai usa o https://github.com/rustformers/llm Rust Crate em sua essência. Confira, eles são super legais!

Instalar

Vá para o site em https://www.localai.app/ e clique no botão para obter a arquitetura da sua máquina. Você também pode encontrar a construção manualmente na página de lançamento do Github.

Os binários do Windows e MacOS são assinados pela Plasmo Corp. - uma empresa de propriedade do autor deste projeto (@LouisGV).

Você também pode construir a partir da fonte!

Demonstração

LOCAL.AI.DEMO.V0.2.X.MP4

? Desenvolvimento

Veja como executar o projeto localmente:

Pré -requisitos

1. nó> = 18
2. ferrugem> = 1,69
3. pnpm> = 8

Fluxo de trabalho

 git submodule update --init --recursive
pnpm i
pnpm dev

? Licença

• Desktop/Web App: GNU GPLV3
• Cliente SDK: MIT

? Curiosidades

Por que a mochila?

Laços no conceito de Bring Your Own Model - Alex From Window.ai

Por que GPLV3?

Qualquer coisa relacionada à IA, incluindo seus derivados, deve ser de código aberto para todos inspecionarem. O GPLV3 aplica essa cadeia de código aberto.

Existe uma comunidade?

• Discussão do Github
• Confira esta pesquisa

Onde devo fazer perguntas?

• Aqui

Eu fiz algo com local.ai , onde devo postá -lo?

• Aqui

Eu tenho algumas coisas boas a dizer sobre local.ai , onde devo postá -lo?

• Aqui
• Além disso, considere dar ao repo uma estrela ️

A nomeação parece perto de Localai?

• Quando iniciei o projeto e recebi o domínio localai.app, eu não fazia ideia de que o localai era uma coisa. Um amigo meu me encaminhou um link para esse projeto em meados de maio, e eu fiquei tipo Dang It, vamos apenas adicionar um ponto e chamá -lo um dia (por enquanto ...) - Local "Dot" AI vs Localai lol
• Podemos renomear o projeto.

Você aceita contribuição/relações públicas?

Absolutamente - Observe que qualquer contribuição para este repo deve ser reliciada sob GPLV3. Existem muitas maneiras de contribuir, como:

• Documentação via Wiki Editar Submissão e Documentação de Modelo Conhecido
• Testando e arquivando problema de bug
• Para iniciantes, confira boas primeiras questões
• Para desenvolvedores experientes, confira problemas de procurados não atribuídos