shady.ai

Shadyai

_{我认为，尽可能多的人可以访问私密性，离线AI模型。首先离线。首先隐私。开源。自由的。在Shadyai发生了什么，留在Shadyai 。没有广告。没有跟踪。没有数据收集。没有注册。没有订阅。没有应用内购买。没有高级功能。纳达。没有什么。就是这样。纯AI，纯粹的意图 - 这是该应用程序的本质。}

简介

有没有注意到AI倾向于潜伏在阴影中？ Shadyai凭着一系列具有神秘名称的初创企业，嬉戏地承认了AI对Mystique的偏爱。这一切都是轻松的开玩笑。相反，这种嬉戏的立面背后是对透明和道德AI实践的真正承诺。 Shadyai是完全开源的，并且致力于带来清晰，开放性和对隐私的强调。

有许多尖端的离线AI型号，我想抓住一切。想想任何细分市场，骆驼和耳语。我的意思是什么？好吧，我想让任何人都可以轻松地使用此类尖端AI的进步，而没有随之而来的技术障碍。

赞助商

• 我的空钱包
• 我的空闲时间（我是全职爸爸，专职员工和兼职的兼职寻求者，以使我的工作与生活保持正确的平衡）

进步

项目可能会更改。此列表并不详尽，我会随身携带。

积极处理的那一刻是有标记的吗？表情符号。

• 用颤音制作滑梯（奖励：贡献自定义更改）
• 为Llama.cpp生成飞镖绑定
• 生成.dylib用于MacOS（ARM64）（奖金：具有GPU加速的金属伪像）
• 成功加载了与迪利布的骆驼实例
• 用默认的骆驼上下文参数成功地以GGUF格式加载Llama模型
• 通过自定义提示成功地推断美洲驼模型
• 在应用程序中添加快速启动体验
• ？创建一个跨平台的FLUTTER FFI插件，以相同的方式为自己的应用供电（没有无数的冰冻夜）
• 扩展支持的平台：
  • macOS（ARM64）
  • macOS（x86_64）
  • Windows（x86_64）
  • Linux（x86_64）
  • Android（ARM64）
  • iOS（ARM64）
  • Web（用于Web的Shadyai应该具有WebGPU支持）
• 第11周尖峰（2天）：文本到图像，细分，语音到文本。
• 发布视频，博客文章，添加视觉效果（例如，在读书中），并收集早期反馈。

特征

项目可能会更改。此列表并不详尽，我会随身携带。

• 问一个问题。 （例如：“生活的意义是什么？”）
• 给AI一个指令。 （例如：“用一个说'Hello world'的按钮写一个颤抖的小部件”）
• 从预定义的提示模板中进行选择。
• 通过使用内置的微型AI型号快速入门。 （注意：这是<100 MB的微型故事模型，非常擅长生成短篇小说。虽然我一直在关注几种〜1B型号）
• 询问AI根据简短描述生成图像。 （例如：“戴着帽子的猫”）
• 与AI进行的聊天对话。 （就像与朋友交谈，有扭曲）
• 将文字翻译成另一种语言。
• 复制任何人的声音，说任何您想要的。
• 用AI制作音乐。
• 用AI制作简短的视频。

如果您想查看已实施的功能，请打开问题。

经过验证的设备

这是我测试过Shadyai的设备列表。这不是详尽的列表，您的设备也应该工作。如果不是这种情况，请通过打开问题让我知道。

• MacBook Pro（16英寸，2021年）。
  • Macos Ventura-版本13.5.1
  • 芯片：Apple M1 Pro
  • 内存：16 GB

实验

Shadyai也可能仅通过访问Shady.ai来工作。不过，这是非常实验性的，不要太兴奋！

该网站每天晚上00:00 UTC从烤箱中新鲜烘烤，如本部署页面所示。

DIY

自己做。您有源代码，这是您可以构建它的方式

1. 安装颤音，并确保您可以运行其示例应用程序（Counter App）。
2. 安装FVM（Flutter fvm --version管理器），并确保可以运行它（例如，在撰写本文时输出2.4.1）。
3. 打开您的终端，导航到该项目的根（例如cd ~/my-favorite-projects/shady.ai ）
4. 导航到前端： cd shady_ai_flutter
5. 安装相同的颤音版本： fvm install
6. 最后，使用： flutter run运行该应用程序（如果检测到多个平台，例如MacOS和您的手机，则会提示您选择1个设备）

基准

我父亲是70年代中期退休的屠夫，将成为基准。

为了通过基准通过，必须完成此清单。

清单：

• 告诉爸爸下载该应用程序。
• 要求他与应用程序进行对话。如果他与AI聊天至少5分钟，那是通过。
• 要求他产生图像。如果他能够产生图像，他对结果感到满意，这是通过，他能够与任何人分享。

如果未完成，那将是失败。如果完成了，那就是通行证。

关于我父亲。

他在70年代中期。很棒的记忆。总是忘记我的出生日期，但以某种方式记得30年前有关其客户的详细信息。有很好的幽默感。哦，等一下，他的记忆毕竟不是很好。尽管如此，他还是一个伟大的父亲。

对我父亲打招呼：

技术堆栈

• 颤音 - 前端（在飞镖中）
• Llama.CPP-允许我在CPU上运行BlinkDL的一种模型，即快速推断。
• 设计系统 - Google制造的设计系统。帮助我在整个应用程序中获得一个组成的主题，而不是我自己做。
• 还有更多...
• ServerPod-后端（在DART中）。 Shadyai当前不使用任何后端。但是我计划使用ServerPod，以使以后运行可以在自己的服务器上部署的强大模型更容易。我敢打赌，R/自我主持的人们会喜欢的。我知道我会的。试想一下，单个命令行运行Docker Image，该图像运行强大的AI模型（或多个模型），您可以从任何地方访问该模型。那是梦。我还不到那儿，但是我正在努力。

常问问题

问：什么是阴暗的？

答：具有讽刺意味的是，什么都没有。 Shadyai这个名字是一个有趣的转折，暗示了AI的经常性质。如果使用它会让您“阴暗”，那么，那将是我们的小秘密。底线？ Shadyai中发生的事情留在Shadyai。

问：您对想要建造这样的东西的人有什么建议？

答：它始于激情。跳上潮流，因为从长远来看，“ Vogue”的事物不会维持您。趋势是短暂的。深入研究该主题 - 在这种情况下，AI。了解其功能，并对您渴望解决的现实世界问题进行批判性思考。对我来说，这不仅仅是谈论AI的潜力；它是要演示它，使其可与所有人访问。我使用一个简单的基准：如果我的父母开始自愿使用它，我知道我在做某事。这是一段旅程，虽然我还不到那里，但我致力于这条路。

免责声明

该项目与Meta，OpenAI或任何其他公司都不隶属。这是我做出的个人项目。 Shadyai，我本人和参与该项目的其他任何人对使用此应用程序造成的任何损害概不负责。自行使用。

执照

请参阅许可证文件。

贡献

随时打开问题或拉动请求。我对任何建议持开放态度。

Shadyai的朋友

• Llama.dart -Llama.cpp的飞镖绑定。由我制作。
• Llama.cpp -C ++库，用于本地建立和运行AI模型。
• 珀斯·珀斯（Perth Perth）的扑面聚会小组。我是组织者。加入我常规的在线聚会，以了解有关Flutter和AI的更多信息。