pezzo

Pezzo ist eine vollständig wolkernative und Open-Source-LLMOPS-Plattform. Beobachten und überwachen Sie Ihre KI -Vorgänge nahtlos und überwachen Sie Probleme, beheben Sie Probleme, sparen Sie bis zu 90% in Bezug auf Kosten und Latenz, arbeiten und verwalten Sie Ihre Eingabeaufforderungen an einem Ort und liefern Sie sofort Änderungen der KI.

Merkmale

Dokumentation

Klicken Sie hier, um zur offiziellen Pezzo -Dokumentation zu navigieren

In der Dokumentation finden Sie Informationen zur Verwendung von Pezzo, der Architektur, einschließlich Tutorials und Rezepten für Varius -Anwendungsfälle und LLM -Anbieter.

Unterstützte Kunden

Besonderheit	Node.js • docs	Python • Docs	Langchain
Sofortiges Management	✅	✅	✅
Beobachtbarkeit	✅	✅	✅
Ausschnitt	✅	✅	✅

Suchen Sie einen Kunden, der hier nicht aufgeführt ist? Öffnen Sie ein Problem und lassen Sie es uns wissen!

Erste Schritte - Docker Compose

Wenn Sie einfach den vollständigen Pezzo -Stack lokal ausführen möchten, sehen Sie sich in der Dokumentation ausgeführt mit Docker Compose.

Wenn Sie Pezzo im Entwicklungsmodus ausführen möchten, lesen Sie weiter.

Voraussetzungen

• Node.js 18+
• Docker
• (Empfohlen) GraphQL -Sprachfunktion Unterstützung VSCODE -Erweiterung

Abhängigkeiten installieren

Installieren Sie NPM -Abhängigkeiten durch Ausführen:

 npm install

Richten Sie die Umgebungsdateien ein

Pezzo verwendet eine .env -Datei, um Umgebungsvariablen zu speichern. Bei der Verwendung von Docker sollten Sie auch eine .env.Docker -Datei erstellen.

Siehe die Datei .env.example als Referenz.

Infrastrukturabhängigkeiten über Docker komponieren

Pezzo ist völlig wolkengebunden und stützt sich ausschließlich auf Open-Source-Technologien wie PostgreSQL, Clickhouse, Redis und SuperTokens.

Sie können diese Abhängigkeiten über Docker Compose ausführen:

 docker-compose -f docker-compose.infra.yaml up

Starten Sie Pezzo

Prisma -Migrationen einsetzen:

 npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma

Führen Sie den Server aus:

 npx nx serve server

Der Server wird jetzt ausgeführt. Sie können dies überprüfen, indem Sie zu http: // localhost: 3000/api/Healthz navigieren.

Im Entwicklungsmodus möchten Sie codegen im Uhrenmodus ausführen. Wenn Sie also Änderungen am Schema vornehmen, werden die Typen automatisch generiert. Führen Sie nach dem Ausführen des Servers Folgendes in einem separaten Terminalfenster aus:

 npm run graphql:codegen:watch

Dies verbindet CodeGen direkt mit dem Server und hält Ihr GraphQL-Schema auf dem neuesten Stand, wenn Sie Änderungen vornehmen.

Schließlich sind Sie bereit, die Pezzo -Konsole zu betreiben:

 npx nx serve console

Das war's! Die Pezzo -Konsole ist jetzt unter http: // localhost: 4200 zugänglich

Beitragen

Wir begrüßen Beiträge aus der Community! Bitte zögern Sie nicht, Pull -Anfragen zu senden oder Probleme für Fehler oder Feature -Vorschläge zu erstellen.

Wenn Sie einen Beitrag leisten möchten, aber nicht sicher sind, schließen Sie sich unserer Zwietracht bei und wir helfen Ihnen gerne weiter!

Bitte lesen Sie den Beitrag zum Beitrag zum Beitrag zur Verfügung.

Lizenz

Der Quellcode dieses Repositorys ist unter der Apache 2.0 -Lizenz verfügbar.