shady.ai

シェイヤイ

_{プライバシーに優しいオフラインAIモデルをできるだけ多くの人がアクセスできるようにするための私の考え。最初にオフライン。最初にプライバシー。オープンソース。無料。 Shadyaiで何が起こるか、Shadyaiにとどまります。広告なし。追跡なし。データ収集はありません。登録なし。サブスクリプションなし。アプリ内購入はありません。プレミアム機能はありません。 nada。何もない。それでおしまい。純粋なAI、純粋な意図 - それがこのアプリの本質です。}

イントロ

AIが影に潜む傾向があることに気付いたことがありますか？ Shadyaiは、故郷の名前を描いているスタートアップの海で、AiのMystiqueへの好みをふざけて認めています。それはすべて軽快な冗談です。それどころか、この遊び心のあるファサードの背後には、透明性と倫理的AIの実践に対する真のコミットメントがあります。 Shadyaiは完全にオープンソースであり、明確さ、開放性、プライバシーに重点を置くことに専念しています。

多くの最先端のオフラインAIモデルがあり、私はすべてをキャッチしたいです。ラマとささやき、何でもセグメントを考えてください。それはどういう意味ですか？まあ、私は誰もがそれに付随する技術的なハードルなしで、このような最先端のAIの進歩を簡単に使用できるようにしたいと思います。

スポンサー

• 私の空の財布
• 私の自由時間（私はフルタイムのお父さん、フルタイムの従業員、そしてワークライフバランスを正しくするためのパートタイムの探求者です）

進捗

アイテムは変更される可能性があります。このリストは網羅的ではありません。私は行くときに更新します。

積極的に取り組んでいるものは、？絵文字。

• フラッター付きのスライドデッキを作成します（ボーナス：カスタムの変更を促進します）
• llama.cppのDARTバインディングを生成します
• MACOSの.dylibを生成する（arm64）（ボーナス：GPU加速のための金属アーティファクト付き）
• llamaのインスタンスをDylibで正常にロードします
• デフォルトのllamaコンテキストパラメーターを使用して、gguf形式でllamaモデルを正常にロードする
• カスタムプロンプトを使用して、Llamaモデルの推論を正常に実行します
• アプリにクイックスタートエクスペリエンスを追加します
• ？クロスプラットフォームのフラッターFFIプラグインを作成して、独自のアプリを同じように強化します（数え切れないほどのフランスの夜がありません）
• サポートされているプラ​​ットフォームを拡張します：
  • macos（arm64）
  • macos（x86_64）
  • Windows（x86_64）
  • Linux（x86_64）
  • Android（ARM64）
  • iOS（arm64）
  • Web（Web用のShadyaiがWebGPUサポートが必要です）
• 11週目のスパイク（2日）：テキストからイメージ、セグメンテーション、音声からテキスト。
• ビデオ、ブログ投稿を公開し、ビジュアルを追加し（readmeで）、早期フィードバックを収集します。

特徴

アイテムは変更される可能性があります。このリストは網羅的ではありません。私は行くときに更新します。

• aiに1つの質問をしてください。 （例：「人生の意味は何ですか？」）
• AIに単一の命令を与えます。 （例：「「Hello World」というボタンでフラッターウィジェットを書く」）
• 事前に定義されたプロンプトテンプレートから選択します。
• 組み込みの小さくて走るAIモデルを使用して、すぐに開始します。 （注：100 MB未満のTinyStoriesモデルであり、短編小説を生成するのに最適です。ただし、いくつかの〜1Bモデルに注目しています）
• AIに、短い説明に基づいて画像を生成します。 （例：「帽子をかぶった猫」）
• AIとの継続的なチャット会話。 （友人と話すように、ひねりを加えて）
• テキストを別の言語に翻訳します。
• 誰かの声をコピーして、あなたが望むことは何でも言います。
• AIで音楽を作ります。
• AIで短いビデオを作成します。

機能が実装されているのを見たい場合は、問題を開いてください。

検証済みのデバイス

Shadyaiをテストしたデバイスのリストは次のとおりです。これは網羅的なリストではありません。デバイスも機能するはずです。そうでない場合は、問題を開いてお知らせください。

• MacBook Pro（16インチ、2021）。
  • MacOS Ventura -バージョン13.5.1
  • チップ：Apple M1 Pro
  • メモリ：16 GB

実験的

Shadyaiは、Shady.aiを訪れるだけでも機能するかもしれません。これは非常に実験的ですが、まだ興奮しすぎないでください！

このウェブサイトは、この展開ページに見られるように、毎晩00:00 UTCにオーブンから新たに焼かれます。

DIY

自分でやってください。ソースコードがあります、ここにあなたがそれを構築する方法はあります

1. Flutterをインストールし、Exampleアプリ（カウンターアプリ）を実行できることを確認してください。
2. FVM（Flutterバージョンマネージャー）をインストールし、実行できることを確認してください（この執筆時点でfvm --version出力2.4.1）。
3. ターミナルを開き、このプロジェクトのルートに移動します（例： cd ~/my-favorite-projects/shady.ai ）
4. フロントエンドに移動する： cd shady_ai_flutter
5. 同じフラッターバージョンをインストールします： fvm install
6. 最後に、アプリを実行して： flutter run （複数のプラットフォームが検出された場合、たとえばMacosとお使いの携帯電話で、1つのデバイスを選択するように求められます）

ベンチマーク

70年代半ばに引退した肉屋である私の父は、ベンチマークになるでしょう。

ベンチマークを渡すためには、このチェックリストを完了する必要があります。

チェックリスト：

• お父さんにアプリをダウンロードするように伝えます。
• 彼にアプリと会話をするように頼んでください。彼が少なくとも5分間AIとチャットしている場合、それはパスです。
• 彼に画像を生成するように頼んでください。彼が画像を生成できればパスです。彼は結果に満足しており、誰とでもそれを共有することができます。

それが完了していない場合、それは失敗です。完了した場合、パスです。

私の父について。

彼は70年代半ばです。素晴らしい思い出。私の生年月日は常に忘れていますが、30年前の顧客に関する詳細をどうにか覚えています。ユーモアのセンスがあります。ちょっと待ってください、彼の記憶は結局それほど素晴らしいことではありません。それでも、彼は素晴らしいお父さんです。

お父さんに挨拶してください：

技術スタック

• フラッター - フロントエンド（ダート）
• llama.cpp -cpu、速い推論でblinkdlのモデルの1つを実行できます。
• 設計システム - Googleが作成した設計システム。アプリ全体で、自分ですべてを行うよりも少ない努力で構成されるテーマを取得するのに役立ちます。
• そしてもっと...
• ServerPod -BackEnd（DART）。 Shadyaiは現在、バックエンドを使用していません。ただし、ServerPodを使用して、後で簡単に実行して、独自のサーバーに展開できる強力なモデルを実行することを計画しています。 R/Self -Hostedの人々がそれを愛していると思います。私はそうすることを知っています。どこからでもアクセスできる強力なAIモデル（または複数のモデル）を実行するDocker画像を実行する単一のコマンドラインを想像してください。それが夢です。私はまだそこにいませんが、私はそれに取り組んでいます。

よくある質問

Q：それについて何がそんなに怪しいのですか？

A：皮肉なことに、まったく何もありません。 Shadyaiという名前は遊び心のあるひねりであり、AIのしばしば意識的な性質をほのめかしています。それを使用すると、「怪しげ」になると、それは私たちの小さな秘密になります。結論？ Shadyaiで何が起こるかはShadyaiにとどまります。

Q：このようなものを作りたい人にどんなアドバイスがありますか？

A：それは情熱から始まります。何かが「ヴォーグ」であるため、長期的にはあなたを支えないので、時流に飛びつきます。トレンドはつかの間です。この例では、主題の奥深くに飛び込みます。その能力を理解し、あなたが取り組むことに熱心な現実世界の問題について批判的に考える。私にとって、それはAIの可能性について話すことだけではありません。それはそれを実証することであり、それを具体的ですべての人がアクセスできるようにすることです。私は簡単なベンチマークを使用しています。両親が自発的にそれを使い始めたら、私は何かに取り組んでいることを知っています。それは旅であり、私はまだそこにいませんが、私は道にコミットしています。

免責事項

このプロジェクトは、Meta、Openai、または他の会社と提携していません。これは私が作った個人的なプロジェクトです。 Shadyai、私、およびこのプロジェクトに関与している他の人は、このアプリの使用によって引き起こされた損害について責任を負いません。あなた自身の責任で使用してください。

ライセンス

ライセンスファイルを参照してください。

貢献

お気軽に問題やプルリクエストを開いてください。私はどんな提案にもオープンです。

シェーシアイの友達

• llama.dart- llama.cppのダートバインディング私によって作られました。
• llama.cpp -AIモデルをローカルに構築および実行するためのC ++ライブラリ。
• フラッターパース - パースのフラッターミートアップグループ。私はオーガナイザーです。私の定期的なオンラインミートアップに参加して、FlutterとAIの詳細をご覧ください。