local.ai

？ local.ai

用於本地，私人，有保證的AI實驗的桌面應用程序。包括：

• 已知的型號API和模型下載器，具有建議的硬件規格，模型許可證，Blake3/SHA256哈希等...
• 一個簡單的筆記應用程序，每個註釋都有推理配置。註釋及其配置將輸出為純文本.mdx格式
• 模型推理流服務器（/完成端點，類似於OpenAI）

它可以與https://github.com/alexanderatallah/window.ai/一起使用，作為一種簡單的方法，可以使本地推理服務器立即啟動並運行。 window.ai + local.ai啟用每個Web應用程序可以使用AI，而不會產生開發人員或用戶的任何費用！

現在，local.ai使用https://github.com/rustformers/llm Rust Crate的核心。檢查一下，它們非常酷！

安裝

請訪問網站https://www.localai.app/，然後單擊計算機體系結構的按鈕。您還可以在GitHub發布頁面中手動找到構建。

Windows和MacOS二進製文件在Plasmo Corp.下簽名 - 該項目作者（@LouisGV）擁有的公司。

您也可以從來源構建！

演示

local.ai.demo.v0.2.x.mp4

？發展

這是本地運行該項目的方法：

先決條件

1. 節點> = 18
2. RUST> = 1.69
3. PNPM> = 8

工作流程

 git submodule update --init --recursive
pnpm i
pnpm dev

？執照

• 桌面/Web應用程序：GNU GPLV3
• 客戶SDK：麻省理工學院

？瑣事

為什麼背包？

與您自己的模型概念聯繫在一起-Alex從Window.ai

為什麼GPLV3？

包括其衍生工具在內的任何與AI相關的東西都應是所有人進行檢查的。 GPLV3強制執行此開源鏈。

有社區嗎？

• Github討論
• 結帳此民意調查

我應該在哪裡提問？

• 這裡

我和local.ai做了什麼，我應該在哪裡發布？

• 這裡

關於local.ai ，我有一些好話，我應該在哪裡發布？

• 這裡
• 另外，考慮給倉庫一顆星星️

命名似乎靠近Localai？

• 當我第一次啟動該項目並獲得域localai.app時，我不知道Localai是一件事情。我的一個朋友向我轉發了一個五月中旬的鏈接，我當時就像它一樣，讓我們​​添加一個點並將其稱為一天（目前...）
• 我們可能會重命名該項目。

您接受貢獻/公關嗎？

絕對 - 請注意，根據GPLV3的任何貢獻均應依賴。有很多貢獻的方法，例如：

• 通過Wiki編輯提交和已知模型文檔的文檔
• 測試和歸檔錯誤問題
• 對於初學者，請查看一個好的第一個問題
• 對於經驗豐富的開發人員，請查看未分配的幫助問題