local.ai

？ local.ai

用于本地，私人，有保证的AI实验的桌面应用程序。包括：

• 已知的型号API和模型下载器，具有建议的硬件规格，模型许可证，Blake3/SHA256哈希等...
• 一个简单的笔记应用程序，每个注释都有推理配置。注释及其配置将输出为纯文本.mdx格式
• 模型推理流服务器（/完成端点，类似于OpenAI）

它可以与https://github.com/alexanderatallah/window.ai/一起使用，作为一种简单的方法，可以使本地推理服务器立即启动并运行。 window.ai + local.ai启用每个Web应用程序可以使用AI，而不会产生开发人员或用户的任何费用！

现在，local.ai使用https://github.com/rustformers/llm Rust Crate的核心。检查一下，它们非常酷！

安装

请访问网站https://www.localai.app/，然后单击计算机体系结构的按钮。您还可以在GitHub发布页面中手动找到构建。

Windows和MacOS二进制文件在Plasmo Corp.下签名 - 该项目作者（@LouisGV）拥有的公司。

您也可以从来源构建！

演示

local.ai.demo.v0.2.x.mp4

？发展

这是本地运行该项目的方法：

先决条件

1. 节点> = 18
2. RUST> = 1.69
3. PNPM> = 8

工作流程

 git submodule update --init --recursive
pnpm i
pnpm dev

？执照

• 桌面/Web应用程序：GNU GPLV3
• 客户SDK：麻省理工学院

？琐事

为什么背包？

与您自己的模型概念联系在一起-Alex从Window.ai

为什么GPLV3？

包括其衍生工具在内的任何与AI相关的东西都应是所有人进行检查的。 GPLV3强制执行此开源链。

有社区吗？

• Github讨论
• 结帐此民意调查

我应该在哪里提问？

• 这里

我和local.ai做了什么，我应该在哪里发布？

• 这里

关于local.ai ，我有一些好话，我应该在哪里发布？

• 这里
• 另外，考虑给仓库一颗星星️

命名似乎靠近Localai？

• 当我第一次启动该项目并获得域localai.app时，我不知道Localai是一件事情。我的一个朋友向我转发了一个五月中旬的链接，我当时就像它一样，让我们​​添加一个点并将其称为一天（目前...）
• 我们可能会重命名该项目。

您接受贡献/公关吗？

绝对 - 请注意，根据GPLV3的任何贡献均应依赖。有很多贡献的方法，例如：

• 通过Wiki编辑提交和已知模型文档的文档
• 测试和归档错误问题
• 对于初学者，请查看一个好的第一个问题
• 对于经验丰富的开发人员，请查看未分配的帮助问题