pezzo
v0.9.2
Pezzo es una plataforma LLMOPS totalmente nativa de nube y de código abierto. Observe y monitoree sin problemas sus operaciones de IA, resuelva problemas, ahorre hasta un 90% en costos y latencias, colabore y administre sus indicaciones en un solo lugar, y entregue instantáneamente los cambios de IA.
Haga clic aquí para navegar a la documentación oficial de Pezzo
En la documentación, puede encontrar información sobre cómo usar Pezzo, su arquitectura, incluidos tutoriales y recetas para casos de uso de varius y proveedores de LLM.
| Característica | Node.js • Docios | Python • Docios | Langchain |
|---|---|---|---|
| Gestión rápida | ✅ | ✅ | ✅ |
| Observabilidad | ✅ | ✅ | ✅ |
| Almacenamiento en caché | ✅ | ✅ | ✅ |
¿Busca un cliente que no esté en la lista aquí? ¡Abra un problema y háganoslo saber!
Si simplemente desea ejecutar la pila de Pezzo completa localmente, consulte Ejecutar con Docker Compose en la documentación.
Si desea ejecutar Pezzo en modo de desarrollo, continúe leyendo.
Instale las dependencias de NPM ejecutando:
npm install
Pezzo utiliza un archivo .env para almacenar variables de entorno. Al usar Docker, también debe crear un archivo .env.docker.
Consulte el archivo .env.example como referencia.
Pezzo es completamente nativo de la nube y se basa únicamente en tecnologías de código abierto como PostgreSQL, Clickhouse, Redis y SuperTokens.
Puede ejecutar estas dependencias a través de Docker Compose:
docker-compose -f docker-compose.infra.yaml up
Implementar migraciones de prisma:
npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma
Ejecute el servidor:
npx nx serve server
El servidor ahora se está ejecutando. Puede verificar eso navegando a http: // localhost: 3000/API/Healthz.
En el modo de desarrollo, desea ejecutar codegen en el modo de reloj, por lo que cada vez que realiza cambios en el esquema, los tipos se generan automáticamente. Después de ejecutar el servidor, ejecute lo siguiente en una ventana de terminal separada :
npm run graphql:codegen:watch
Esto conectará Codegen directamente al servidor y mantendrá su esquema GraphQL actualizado a medida que realice cambios.
Finalmente, estás listo para ejecutar la consola Pezzo:
npx nx serve console
¡Eso es todo! La consola Pezzo ahora es accesible en http: // localhost: 4200
¡Agradecemos las contribuciones de la comunidad! No dude en enviar solicitudes de extracción o crear problemas para errores o sugerencias de características.
Si desea contribuir, pero no está seguro de cómo, únase a nuestra discordia y estaremos encantados de ayudarlo.
Echa un vistazo a contribuir.md antes de contribuir.
El código fuente de este repositorio está disponible bajo la licencia Apache 2.0.
