axflow

Axflow ist eine Sammlung von Modulen zum Aufbau robuster natürlicher Sprachantriebsanwendungen. Diese Module können inkrementell eingesetzt werden, wodurch eine modulare und skalierbare Lösung bereitgestellt wird. Zusammen verwendet sie ein End-to-End-Framework für die Entwicklung von KI-Anwendungen.

Module

• @Axflow/Modelle -eine modulare SDK mit Nullabhängigkeit zum Aufbau robuster natürlicher Sprachanwendungen. Beinhaltet React -Haken und Streaming -Versorgungsunternehmen, die den Bau von AI -Anwendungen zum Kinderspiel machen.

• AXGEN - Ein Framework zum Anschließen Ihrer Daten mit großen Sprachmodellen

• AXEVAL - Ein Framework zur Bewertung der LLM -Ausgangsqualität

Zusätzlich zu den oben genannten Modulen arbeiten wir an den folgenden Modulen:

• Extrakt : Eine Bibliothek für eine effiziente Datenverarbeitung, insbesondere das Laden, Transformieren und Chunking -Dokumente aus willkürlichen Quellen. Am nützlichsten für Anwendungen, die Daten für die Vektorsuche laden und vorbereiten müssen.

• Servieren : Ein Serviergerüst zum Ausführen eines LLM -Modells (OSS oder auf andere Weise). Es bietet auch Middleware -Optionen für Benutzer -Drosselung, Analyse und Protokollierung

• Finetune : Eine Bibliothek, die sich auf Feinabstimmungsmodelle konzentriert

Dokumentation

Ziele

Axflow strebt danach, die komplexen Paradigmen der Arbeit mit LLMs in überschaubare und intuitive Komponenten zu dekonstruieren. Unsere Bibliothek verfolgt einen Code-ersten Ansatz und betont die Bedeutung von Flexibilität und Kontrolle für Entwickler. Als grundlegender Rahmen ermöglicht Axflow Entwickler, die Typ-Niveau-KI-Funktionen und -produkte nahtlos auf höherer Ebene zu erstellen.

Beispiele

Hier ist ein Beispiel für Open -Source -Benutzeroberfläche, in dem unser erstes Modul, Axgen, mit einer kurzen Videowechselschaft vorgestellt werden kann.

Lizenz

MIT