local.ai

? Местный.ai

Настольное приложение для местных, частных, защищенных экспериментов по ИИ. Включено из коробки:

• Известный API модели и модельный загрузчик с такими описаниями, как рекомендуемые аппаратные характеристики, модель лицензии, хэши Blake3/SHA256 и т. Д.
• Простое приложение для примечания с конфигурацией вывода на примечание. Примечание и его конфигурация выводятся в формат простого текста .mdx
• Сервер потокового вывода модели (/завершение конечной точки, аналогично OpenAI)

Он сделан для использования вместе с https://github.com/alexanderatallah/window.ai/ как простой способ сделать локальный сервер локального вывода в кратчайшие сроки. window.ai + local.ai Включите каждое веб -приложение использовать ИИ без каких -либо затрат ни от разработчика, ни от пользователя!

Прямо сейчас, local.ai использует https://github.com/rustformers/llm ржавчина в своей основе. Проверьте их, они очень крутые!

Установить

Перейдите на сайт по адресу https://www.localai.app/ и нажмите кнопку для архитектуры вашей машины. Вы также можете найти сборку вручную на странице выпуска GitHub.

Двоиры Windows и MacOS подписаны в рамках Plasmo Corp. - компании, принадлежащей автору этого проекта (@louisgv).

Вы также можете построить из источника!

Демо

local.ai.demo.v0.2.x.mp4

? Разработка

Вот как запустить проект локально:

Предварительные условия

1. Узел> = 18
2. ржавчина> = 1,69
3. PNPM> = 8

Рабочий процесс

 git submodule update --init --recursive
pnpm i
pnpm dev

? Лицензия

• Настольное/веб -приложение: GNU GPLV3
• Клиент SDK: MIT

? Мелочи

Почему рюкзак?

Связанные с концепцией принесите свою собственную модель - Алекс из Window.ai

Почему GPLV3?

Все, что связано с ИИ, включая их производные, должно быть открытым исходным кодом для всех, чтобы осмотреть. GPLV3 обеспечивает соблюдение этой цепочки с открытым исходным кодом.

Есть сообщество?

• Дискуссия GitHub
• Оформить этот опрос

Где мне задать вопрос?

• Здесь

Я сделал что -нибудь с local.ai , где мне это опубликовать?

• Здесь

У меня есть хорошие вещи, чтобы сказать о local.ai , где мне это опубликовать?

• Здесь
• Также подумайте о том, чтобы дать репо звезду ️

Наименование кажется близким к местному участку?

• Когда я впервые запустил проект и получил домен Localai.App, я понятия не имел, что Localai - это вещь. Мой друг направил мне ссылку на этот проект в середине мая, и я был как Dang It, давайте просто добавим точку и назваем ее днем ​​(пока ...) - местная "точка" AI vs Localai LOL LOL
• Мы могли бы переименовать проект.

Вы принимаете вклад/PR?

Абсолютно - обратите внимание, что любой вклад в этот репо должен быть переброшен в соответствии с GPLV3. Есть много способов внести свой вклад, например:

• Документация через представление Viki Редактирование и известная модель документация
• Проблема тестирования и подачи ошибок
• Для начинающего, проверьте хорошие первые проблемы
• Для опытных разработчиков ознакомьтесь с неосведомленной помощью