shady.ai

Shadyai

_{我認為，盡可能多的人可以訪問私密性，離線AI模型。首先離線。首先隱私。開源。自由的。在Shadyai發生了什麼，留在Shadyai 。沒有廣告。沒有跟踪。沒有數據收集。沒有註冊。沒有訂閱。沒有應用內購買。沒有高級功能。納達。沒有什麼。就是這樣。純AI，純粹的意圖 - 這是該應用程序的本質。}

簡介

有沒有註意到AI傾向於潛伏在陰影中？ Shadyai憑著一系列具有神秘名稱的初創企業，嬉戲地承認了AI對Mystique的偏愛。這一切都是輕鬆的開玩笑。相反，這種嬉戲的立面背後是對透明和道德AI實踐的真正承諾。 Shadyai是完全開源的，並且致力於帶來清晰，開放性和對隱私的強調。

有許多尖端的離線AI型號，我想抓住一切。想想任何細分市場，駱駝和耳語。我的意思是什麼？好吧，我想讓任何人都可以輕鬆地使用此類尖端AI的進步，而沒有隨之而來的技術障礙。

贊助商

• 我的空錢包
• 我的空閒時間（我是全職爸爸，專職員工和兼職的兼職尋求者，以使我的工作與生活保持正確的平衡）

進步

項目可能會更改。此列表並不詳盡，我會隨身攜帶。

積極處理的那一刻是有標記的嗎？表情符號。

• 用顫音製作滑梯（獎勵：貢獻自定義更改）
• 為Llama.cpp生成飛鏢綁定
• 生成.dylib用於MacOS（ARM64）（獎金：具有GPU加速的金屬偽像）
• 成功加載了與迪利布的駱駝實例
• 用默認的駱駝上下文參數成功地以GGUF格式加載Llama模型
• 通過自定義提示成功地推斷美洲駝模型
• 在應用程序中添加快速啟動體驗
• ？創建一個跨平台的FLUTTER FFI插件，以相同的方式為自己的應用供電（沒有無數的冰凍夜）
• 擴展支持的平台：
  • macOS（ARM64）
  • macOS（x86_64）
  • Windows（x86_64）
  • Linux（x86_64）
  • Android（ARM64）
  • iOS（ARM64）
  • Web（用於Web的Shadyai應該具有WebGPU支持）
• 第11週尖峰（2天）：文本到圖像，細分，語音到文本。
• 發布視頻，博客文章，添加視覺效果（例如，在讀書中），並收集早期反饋。

特徵

項目可能會更改。此列表並不詳盡，我會隨身攜帶。

• 問一個問題。 （例如：“生活的意義是什麼？”）
• 給AI一個指令。 （例如：“用一個說'Hello world'的按鈕寫一個顫抖的小部件”）
• 從預定義的提示模板中進行選擇。
• 通過使用內置的微型AI型號快速入門。 （注意：這是<100 MB的微型故事模型，非常擅長生成短篇小說。雖然我一直在關注幾種〜1B型號）
• 詢問AI根據簡短描述生成圖像。 （例如：“戴著帽子的貓”）
• 與AI進行的聊天對話。 （就像與朋友交談，有扭曲）
• 將文字翻譯成另一種語言。
• 複製任何人的聲音，說任何您想要的。
• 用AI製作音樂。
• 用AI製作簡短的視頻。

如果您想查看已實施的功能，請打開問題。

經過驗證的設備

這是我測試過Shadyai的設備列表。這不是詳盡的列表，您的設備也應該工作。如果不是這種情況，請通過打開問題讓我知道。

• MacBook Pro（16英寸，2021年）。
  • Macos Ventura-版本13.5.1
  • 芯片：Apple M1 Pro
  • 內存：16 GB

實驗

Shadyai也可能僅通過訪問Shady.ai來工作。不過，這是非常實驗性的，不要太興奮！

該網站每天晚上00:00 UTC從烤箱中新鮮烘烤，如本部署頁面所示。

DIY

自己做。您有源代碼，這是您可以構建它的方式

1. 安裝顫音，並確保您可以運行其示例應用程序（Counter App）。
2. 安裝FVM（Flutter fvm --version管理器），並確保可以運行它（例如，在撰寫本文時輸出2.4.1）。
3. 打開您的終端，導航到該項目的根（例如cd ~/my-favorite-projects/shady.ai ）
4. 導航到前端： cd shady_ai_flutter
5. 安裝相同的顫音版本： fvm install
6. 最後，使用： flutter run運行該應用程序（如果檢測到多個平台，例如MacOS和您的手機，則會提示您選擇1個設備）

基準

我父親是70年代中期退休的屠夫，將成為基準。

為了通過基准通過，必須完成此清單。

清單：

• 告訴爸爸下載該應用程序。
• 要求他與應用程序進行對話。如果他與AI聊天至少5分鐘，那是通過。
• 要求他產生圖像。如果他能夠產生圖像，他對結果感到滿意，這是通過，他能夠與任何人分享。

如果未完成，那將是失敗。如果完成了，那就是通行證。

關於我父親。

他在70年代中期。很棒的記憶。總是忘記我的出生日期，但以某種方式記得30年前有關其客戶的詳細信息。有很好的幽默感。哦，等一下，他的記憶畢竟不是很好。儘管如此，他還是一個偉大的父親。

對我父親打招呼：

技術堆棧

• 顫音 - 前端（在飛鏢中）
• Llama.CPP-允許我在CPU上運行BlinkDL的一種模型，即快速推斷。
• 設計系統 - Google製造的設計系統。幫助我在整個應用程序中獲得一個組成的主題，而不是我自己做。
• 還有更多...
• ServerPod-後端（在DART中）。 Shadyai當前不使用任何後端。但是我計劃使用ServerPod，以使以後運行可以在自己的服務器上部署的強大模型更容易。我敢打賭，R/自我主持的人們會喜歡的。我知道我會的。試想一下，單個命令行運行Docker Image，該圖像運行強大的AI模型（或多個模型），您可以從任何地方訪問該模型。那是夢。我還不到那兒，但是我正在努力。

常問問題

問：什麼是陰暗的？

答：具有諷刺意味的是，什麼都沒有。 Shadyai這個名字是一個有趣的轉折，暗示了AI的經常性質。如果使用它會讓您“陰暗”，那麼，那將是我們的小秘密。底線？ Shadyai中發生的事情留在Shadyai。

問：您對想要建造這樣的東西的人有什麼建議？

答：它始於激情。跳上潮流，因為從長遠來看，“ Vogue”的事物不會維持您。趨勢是短暫的。深入研究該主題 - 在這種情況下，AI。了解其功能，並對您渴望解決的現實世界問題進行批判性思考。對我來說，這不僅僅是談論AI的潛力；它是要演示它，使其可與所有人訪問。我使用一個簡單的基準：如果我的父母開始自願使用它，我知道我在做某事。這是一段旅程，雖然我還不到那裡，但我致力於這條路。

免責聲明

該項目與Meta，OpenAI或任何其他公司都不隸屬。這是我做出的個人項目。 Shadyai，我本人和參與該項目的其他任何人對使用此應用程序造成的任何損害概不負責。自行使用。

執照

請參閱許可證文件。

貢獻

隨時打開問題或拉動請求。我對任何建議持開放態度。

Shadyai的朋友

• Llama.dart -Llama.cpp的飛鏢綁定。由我製作。
• Llama.cpp -C ++庫，用於本地建立和運行AI模型。
• 珀斯·珀斯（Perth Perth）的撲面聚會小組。我是組織者。加入我常規的在線聚會，以了解有關Flutter和AI的更多信息。