shady.ai

Shadyai

_{Meine Einstellung, um privatitätsfreundliche, offline -KI -Modelle für möglichst viele Menschen zugänglich zu machen. Offline zuerst. Privatsphäre zuerst. Open Source. Frei. Was in Shadyai passiert, bleibt in Shadyai . Keine Anzeigen. Keine Verfolgung. Keine Datenerfassung. Keine Eintragung. Kein Abonnement. Keine In-App-Käufe. Keine Premium -Merkmale. Nada. Nichts. Das war's. Reine KI, reine Absichten - das ist die Essenz dieser App.}

Intro

Haben Sie jemals bemerkt, wie KI dazu neigt, im Schatten zu lauern? Mit einem Meer von Startups mit kryptischen Namen erkennt Shadyai die Vorliebe von Ai für Mystique spielerisch an. Es ist alles ein bisschen unbeschwert. Im Gegenteil, hinter dieser spielerischen Fassade liegt ein echtes Engagement für Transparenz und ethische KI -Praktiken. Shadyai ist vollständig Open Source und widmet sich der Klarheit, Offenheit und starker Betonung der Privatsphäre.

Es gibt viele modernste Offline -KI -Modelle, und ich möchte sie alle fangen. Denken Sie an Segment alles, Lama und Flüstern. Was meine ich damit? Nun, ich möchte es jedem erleichtern, so technische Hürden, die damit einhergehen, in modernen KI -Fortschritten wie diese zu verwenden.

Sponsoren

• Meine leere Brieftasche
• Meine Freizeit (ich bin ein Vollzeitvater, ein Vollzeitangestellter und Teilzeit-Sucher, mein Work-Life-Gleichgewicht richtig zu machen)

Fortschritt

Elemente können sich ändern. Diese Liste ist nicht erschöpfend, ich werde sie so aktualisieren, wie ich gehe.

Derjenige, an dem aktiv bearbeitet wird, ist mit einem markiert? Emoji.

• Machen Sie ein Dia -Deck mit Flutter (Bonus: Behren Sie benutzerdefinierte Änderungen bei).
• Generieren Sie DART -Bindungen für lama.cpp
• Erzeugen .dylib für macOS (ARM64) (Bonus: mit Metallartefakt für GPU -Beschleunigung)
• Erfolgreich die Instanz von Lama mit Dylib laden
• Laden Sie das Lama -Modell erfolgreich im GGUF -Format mit Standard -Lama -Kontextparametern auf
• Führen Sie erfolgreich Schlussfolgerungen auf das Lama -Modell mit benutzerdefinierten Eingabeaufforderungen durch
• Fügen Sie der App eine schnelle Start -Erfahrung hinzu
• ? Erstellen Sie ein plattformübergreifendes Flutter-FFI-Plugin, um Ihre eigenen Apps auf die gleiche Weise zu betreiben (ohne die unzähligen Nächte der Frustation)
• Erweitern Sie unterstützte Plattformen:
  • macOS (ARM64)
  • macOS (x86_64)
  • Windows (x86_64)
  • Linux (x86_64)
  • Android (ARM64)
  • iOS (ARM64)
  • Web (Shadyai für Web sollte über WebGPU -Unterstützung verfügen)
• Woche 11 Spike (2 Tage): Text-zu-Image, Segmentierung, Sprache zu Text.
• Veröffentlichen Sie Video (en), Blog -Posts (n), fügen Sie Visuals (z. B. in Readme) hinzu und sammeln Sie frühes Feedback.

Merkmale

Elemente können sich ändern. Diese Liste ist nicht erschöpfend, ich werde sie so aktualisieren, wie ich gehe.

• Stellen Sie AI eine einzige Frage. (Beispiel: "Was ist der Sinn des Lebens?")
• Geben Sie AI eine einzige Anweisung. (Beispiel: "Schreiben Sie ein Flutter -Widget mit einem Knopf mit der Aufschrift" Hallo Welt "")
• Wählen Sie aus vordefinierten Eingabeaufforderungsvorlagen.
• Gehen Sie schnell an, indem Sie das eingebaute, aber mächtige KI-Modell verwenden. (Hinweis: Es ist das Tiny -Stories -Modell von <100 MB, großartig in Kurzgeschichten. Ich behalte jedoch mehrere ~ 1B -Modelle im Auge)
• Fragen Sie AI, die auf einer kurzen Beschreibung ein Bild erstellen. (Beispiel: "Eine Katze mit einem Hut")
• Loses Chat-Gespräch mit KI. (Als würde man mit einem Freund mit einer Wendung sprechen)
• Text in eine andere Sprache übersetzen.
• Kopieren Sie die Stimme eines jeden und sagen Sie alles, was Sie wollen.
• Musik mit KI machen.
• Machen Sie kurze Videos mit KI.

Wenn Sie eine implementierte Funktion sehen möchten, öffnen Sie bitte ein Problem.

Verifizierte Geräte

Hier ist eine Liste von Geräten, auf denen ich Shadyai getestet habe. Dies ist keine umfassende Liste, Ihr Gerät sollte auch funktionieren. Wenn dies nicht der Fall ist, teilen Sie es mir bitte mit, indem Sie ein Problem eröffnen.

• MacBook Pro (16-Zoll, 2021).
  • macos ventura - Version 13.5.1
  • Chip: Apple M1 Pro
  • Speicher: 16 GB

Experimental

Shadyai könnte auch arbeiten, indem er nur Shady.ai besucht. Dies ist jedoch sehr experimentell, sei noch nicht zu aufgeregt!

Diese Website wird jeden Abend um 00:00 UTC frisch aus dem Ofen gebacken, wie auf dieser Seite für die Bereitstellung zu sehen ist.

DIY

Mach es selbst. Sie haben den Quellcode, so können Sie ihn erstellen

1. Installieren Sie Flutter und stellen Sie sicher, dass Sie ihre Beispiel -App (Counter App) ausführen können.
2. Installieren Sie FVM (Flutter -Versionsmanager) und stellen Sie sicher, dass Sie es ausführen können (z. B. fvm --version -Verssionsausgänge 2.4.1 zum Zeitpunkt dieses Schreibens).
3. Öffnen Sie Ihr Terminal und navigieren Sie zum Wurzel dieses Projekts (z cd ~/my-favorite-projects/shady.ai
4. Navigieren Sie zum Frontend: cd shady_ai_flutter
5. Installieren Sie dieselbe Flutterversion: fvm install
6. Führen Sie schließlich die App mit: flutter run aus (wenn mehrere Plattformen erkannt werden, z. B. MacOS und Ihr Telefon, werden Sie aufgefordert, 1 Geräte auszuwählen).

Benchmark

Mein Vater, der pensionierte Metzger Mitte der 70er Jahre, wird der Benchmark sein.

Damit der Benchmark passieren kann, muss diese Checkliste abgeschlossen sein.

Checkliste:

• Sagen Sie Papa, er solle die App herunterladen.
• Bitten Sie ihn, ein Gespräch mit der App zu führen. Es ist ein Pass, wenn er mindestens 5 Minuten mit der KI unterhält.
• Bitten Sie ihn, ein Bild zu generieren. Es ist ein Pass, wenn er in der Lage ist, ein Bild zu erzeugen, er mit dem Ergebnis zufrieden ist und es in der Lage ist, es mit irgendjemandem zu teilen.

Wenn es nicht abgeschlossen ist, ist es ein Fehler. Wenn es fertig ist, ist es ein Pass.

Über meinen Vater.

Er ist Mitte der 70er Jahre. Tolle Erinnerung. Vergiss immer mein Geburtsdatum, erinnert sich jedoch irgendwie an Details über seine Kunden von vor 30 Jahren. Hat einen großen Sinn für Humor. Oh, warte eine Minute, sein Gedächtnis ist doch nicht so toll. Trotzdem ist er ein großartiger Vater.

Sag Hallo zu meinem Vater:

Tech Stack

• Flattern - Frontend (in Dart)
• LLAMA.CPP - Ermöglicht mir, eines der Modelle von Blinkdl auf der CPU zu betreiben, schnelle Inferenz.
• Designsystem - Designsystem von Google. Hilft mir, ein bestehendes Thema in der App in weniger Aufwand zu bekommen, als alles selbst zu tun.
• Und noch viel mehr ...
• Serverpod - Backend (in Dart). Shadyai verwendet derzeit kein Backend. Ich plane jedoch, ServerPod zu verwenden, um später leistungsstarke Modelle auszuführen, die Sie auf Ihrem eigenen Server bereitstellen können. Ich wette, die Leute von R/Selfhosted würden das lieben. Ich weiß, dass ich es tun würde. Stellen Sie sich eine einzelne Befehlszeile vor, die ein Docker -Bild ausführt, das ein leistungsstarkes KI -Modell (oder mehrere Modelle) ausführt, auf das Sie von überall zugreifen können. Das ist der Traum. Ich bin noch nicht da, aber ich arbeite daran.

FAQ

F: Was ist so schattig daran?

A: Ironischerweise gar nichts. Der Name Shadyai ist eine spielerische Wendung, die auf die oft mysteriöse Natur der KI hinweist. Wenn Sie es verwenden, ist das unser kleines Geheimnis. Fazit? Was in Shadyai passiert, bleibt in Shadyai.

F: Welchen Rat haben Sie für jemanden, der so etwas bauen möchte?

A: Es beginnt mit Leidenschaft. Auf den Zug zu springen, weil etwas "in Vogue" Sie auf lange Sicht nicht erhalten wird. Trends sind flüchtig. Tauchen Sie tief in das Thema ein - in diesem Fall ai. Verstehen Sie seine Fähigkeiten und denken Sie kritisch über die realen Probleme nach, die Sie angehen möchten. Für mich geht es nicht nur darum, AIs Potenzial zu sprechen. Es geht darum, es zu demonstrieren, es für alle greifbar und zugänglich zu machen. Ich benutze einen einfachen Benchmark: Wenn meine Eltern es freiwillig verwenden, weiß ich, dass ich auf etwas bin. Es ist eine Reise, und obwohl ich noch nicht da bin, bin ich dem Weg verpflichtet.

Haftungsausschluss

Dieses Projekt ist nicht mit Meta, OpenAI oder einem anderen Unternehmen verbunden. Dies ist ein persönliches Projekt von mir. Shadyai, ich und alle anderen, die an diesem Projekt beteiligt sind, sind nicht für Schäden verantwortlich, die durch die Verwendung dieser App verursacht werden. Verwenden Sie auf eigenes Risiko.

Lizenz

Siehe die Lizenzdatei.

Beitragen

Fühlen Sie sich frei, ein Problem oder eine Pull -Anfrage zu öffnen. Ich bin offen für Vorschläge.

Freunde von Shadyai

• lama.dart - DART -Bindungen für lama.cpp. Von mir gemacht.
• LLAMA.CPP - C ++ Bibliothek zum Erstellen und Ausführen von KI -Modellen lokal.
• Flutter Perth - Perths Flutter Meetup Group. Ich bin der Organisator. Nehmen Sie an meinen regulären Online -Meetups teil, um mehr über Flutter und KI zu erfahren.