modelexicon

Diese KI existiert nicht?

Diese KI existiert nicht, erzeugt realistische Beschreibungen von erfundenen maschinellen Lernmodellen. ModelExicon ist das, was es genannt wurde, bevor ich die Domain gekauft habe.

Diese KI existiert nicht mit Eiche und Torus. Eleutherais GPT-J-6B wird zum Zeitpunkt des Schreibens für die Text- und Codegenerierung verwendet, obwohl sich dies ändern kann, wenn sich moderne Modelle verbessern.

Wie es funktioniert

Im Kern dieser KI gibt es nicht zwei Pipelines der Textgenerierung:

• Man nimmt einen "Modellnamen" und generiert eine kurze Beschreibung in der akademisch klingenden Prosa
• Ein anderer nimmt diese Modellbeschreibung auf und schreibt einen Python -Code -Snippet, der demonstriert, wie das beschriebene Modell "verwendet" wird

Diese werden beide unter Verwendung eines Sprachmodells generiert, das GPT-J-6B namens GPT-J-6B, das sich irgendwo zwischen den bekannten GPT-2- und GPT-3-Modellen in Bezug auf die Leistung befindet.

Wenn Sie einfach thisaidoesnotexist.com öffnen, werden die Modellnamen, die Sie sehen, von mir handgerenkt und vorgeneriert. Es gibt einige Gründe, warum ich mich entschieden habe, eine Reihe von Modellnamen vorzubereiten:

• Am wichtigsten ist, dass dies Berechnungskosten spart . Die meisten Benutzer klicken statistisch gesehen die ersten Beispiele für Muster-/Vorgenerierte Modelle und probieren ein oder zwei ihrer eigenen Modellideen aus. Einige Besucher können sogar springen, nachdem sie nur vorgenerierte Beispiele gesehen haben. Ich gehe davon aus, dass vorgenerierte Modelldaten mich 2-4x auf API-Rechnungen retten, die-meine Güte-Sprachmodelle teuer zu laufen sind!
• Manuell kuratieren die ersten Samples stellt sicher, dass die erste Begegnung, die Besucher mit diesem Projekt haben, mindestens eine bestimmte Grundlinie von Qualität und Spaß ist.

Das Skript in scripts/pregenerate_models.oak generiert diesen Datensatz in models.json , das die Server-Round-Robins auf jeder Anforderung zur Laufzeit durchlaufen. Alle benutzerorientierten Modellnamen werden offensichtlich an die richtige APIs für die Textgenerierung weitergeleitet.

Entwicklung

Das Ausführen von ModelExicon erfordert eine config.oak , die derzeit API -Zugriffsinformationen für die Textgenerierung enthält. Es werden zwei Backends der Textgeneration unterstützt:

• Umarmungspflichtinferenz, für die HuggingfaceURL auf das richtige Modell eingestellt ist, und HuggingfaceToken -Set auf Ihre API -Taste.
• Meine persönliche API für private Sprachmodells, die Sie wahrscheinlich nicht verwenden können, weil Sie nicht ich sind. Dies erfordert das Einstellen CalamityURL auf den API-Endpunkt und CalamityToken auf das App-spezifische API-Token, das ich für meine Projekte generiere.

Mit diesen in config.oak definierten oak src/main.oak sollte die App starten.

Wie viele meiner Projekte wird ModelExicon mit Oak gebaut und verwaltet. Es gibt ein kurzes Makefile, das gemeinsame oak umhüllt:

• make den Webserver aus und entsprechen oak src/main.oak oben erwähnt
• make fmt oder make f
• make build oder make b -Build das Client JavaScript -Bundle von src/app.js.oak
• make watch oder make w Wachen auf Dateiänderungen und führt den make build auf jeder Änderung aus