pezzo

Pezzo est une plate-forme LLMOPS entièrement native et open source. Observer et surveiller de manière transparente vos opérations d'IA, résoudre les problèmes, économiser jusqu'à 90% sur les coûts et la latence, collaborer et gérer vos invites en un seul endroit et fournir instantanément des changements d'IA.

Caractéristiques

Documentation

Cliquez ici pour accéder à la documentation officielle de Pezzo

Dans la documentation, vous pouvez trouver des informations sur la façon d'utiliser Pezzo, son architecture, y compris les tutoriels et les recettes pour les cas d'utilisation Varius et les fournisseurs LLM.

Clients soutenus

Fonctionnalité	Node.js • Docs	Python • Docs	Lubriole
Gestion rapide	✅	✅	✅
Observabilité	✅	✅	✅
Mise en cache	✅	✅	✅

Vous cherchez un client qui n'est pas répertorié ici? Ouvrez un problème et faites-le nous savoir!

Démarrer - Docker Compose

Si vous souhaitez simplement exécuter la pile Pezzo complète localement, consultez l'exécution avec Docker Compose dans la documentation.

Si vous souhaitez exécuter Pezzo en mode développement, continuez à lire.

Condition préalable

• Node.js 18+
• Docker
• (Recommandé) GraphQL Language Fonction Prise en charge de l'extension VScode

Installer des dépendances

Installez les dépendances NPM en fonctionnant:

 npm install

Configurer les fichiers environnementaux

Pezzo utilise un fichier .env pour stocker des variables d'environnement. Lorsque vous utilisez Docker, vous devez également créer un fichier .env.docker.

Voir le fichier .env.example pour référence.

Tourner les dépendances des infrastructures via Docker Compose

Pezzo est entièrement natif du cloud et repose uniquement sur des technologies open source telles que PostgreSQL, Clickhouse, Redis et Supertokens.

Vous pouvez exécuter ces dépendances via Docker Compose:

 docker-compose -f docker-compose.infra.yaml up

Démarrer Pezzo

Déployer les migrations de prisma:

 npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma

Exécutez le serveur:

 npx nx serve server

Le serveur est maintenant en cours d'exécution. Vous pouvez vérifier cela en naviguant vers http: // localhost: 3000 / api / healthz.

En mode développement, vous souhaitez exécuter codegen en mode montre, donc chaque fois que vous apportez des modifications au schéma, les types sont générés automatiquement. Après avoir exécuté le serveur, exécutez ce qui suit dans une fenêtre de terminal séparé :

 npm run graphql:codegen:watch

Cela connectera CodeGen directement au serveur et gardera votre schéma GraphQL à jour lorsque vous apportez des modifications.

Enfin, vous êtes prêt à exécuter la console Pezzo:

 npx nx serve console

C'est ça! La console Pezzo est désormais accessible sur http: // localhost: 4200

Contributif

Nous accueillons les contributions de la communauté! N'hésitez pas à soumettre des demandes de traction ou à créer des problèmes pour les bogues ou les suggestions de fonctionnalités.

Si vous voulez contribuer mais que vous ne savez pas comment, rejoignez notre discorde et nous serons heureux de vous aider!

Veuillez consulter contribution.md avant de contribuer.

Licence

Le code source de ce référentiel est disponible sous la licence Apache 2.0.