pezzo

Pezzo是一个完全云的开源LLMOPS平台。无缝观察和监视您的AI操作，对问题进行故障排除，节省多达90％的成本和延迟，协作和管理您的提示，并立即提供AI更改。

特征

文档

单击此处导航到官方的Pezzo文档

在文档中，您可以找到有关如何使用Pezzo及其体系结构的信息，包括用于Varius用例和LLM提供商的教程和食谱。

支持客户

特征	node.js•文档	Python•文档	Langchain
及时管理	✅	✅	✅
可观察性	✅	✅	✅
缓存	✅	✅	✅

寻找这里未列出的客户？打开一个问题，让我们知道！

入门 - Docker撰写

如果您只想在本地运行完整的Pezzo堆栈，请在文档中使用Docker撰写运行。

如果您想在开发模式下运行Pezzo，请继续阅读。

先决条件

• Node.js 18+
• Docker
• （推荐）GraphQl语言功能支持VSCODE扩展

安装依赖项

通过运行安装NPM依赖项：

 npm install

设置环境文件

Pezzo使用.ENV文件来存储环境变量。使用Docker时，您还应该创建一个.env.docker文件。

请参阅.env.example文件以获取参考。

通过Docker组成的基础设施依赖性旋转基础设施依赖

Pezzo完全是云本地，仅依靠开源技术，例如PostgreSQL，Clickhouse，Redis和Supertokens。

您可以通过Docker组成运行这些依赖项：

 docker-compose -f docker-compose.infra.yaml up

开始Pezzo

部署Prisma迁移：

 npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma

运行服务器：

 npx nx serve server

服务器现在正在运行。您可以通过导航到http：// localhost：3000/api/healthz来验证这一点。

在开发模式下，您想在手表模式下运行codegen ，因此每当您更改模式时，都会自动生成类型。运行服务器后，在单独的终端窗口中运行以下内容：

 npm run graphql:codegen:watch

这将直接将CodeGen连接到服务器，并在更改时将GraphQL模式保持最新。

最后，您准备运行Pezzo控制台：

 npx nx serve console

就是这样！现在可以通过http：// localhost访问Pezzo控制台：4200

贡献

我们欢迎社区的捐款！请随时提交拉动请求或为错误或功能建议创建问题。

如果您想做出贡献但不确定如何加入我们的不和谐，我们会很乐意为您提供帮助！

请在贡献前查看贡献。

执照

该存储库的源代码可在Apache 2.0许可下获得。