Pezzo是一個完全雲的開源LLMOPS平台。無縫觀察和監視您的AI操作,解決問題,節省多達90%的成本和延遲,在一個地方進行協作和管理提示,並立即提供AI更改。



單擊此處導航到官方的Pezzo文檔
在文檔中,您可以找到有關如何使用Pezzo及其體系結構的信息,包括用於Varius用例和LLM提供商的教程和食譜。
| 特徵 | node.js•文檔 | Python•文檔 | Langchain |
|---|---|---|---|
| 及時管理 | ✅ | ✅ | ✅ |
| 可觀察性 | ✅ | ✅ | ✅ |
| 快取 | ✅ | ✅ | ✅ |
尋找這裡未列出的客戶?打開一個問題,讓我們知道!
如果您只想在本地運行完整的Pezzo堆棧,請在文檔中使用Docker撰寫運行。
如果您想在開發模式下運行Pezzo,請繼續閱讀。
通過運行安裝NPM依賴項:
npm install
Pezzo使用.ENV文件來存儲環境變量。使用Docker時,您還應該創建一個.env.docker文件。
請參閱.env.example文件以獲取參考。
Pezzo完全是雲本地,僅依賴開源技術,例如Postgresql,Clickhouse,Redis和Supertokens。
您可以通過Docker組成運行這些依賴項:
docker-compose -f docker-compose.infra.yaml up
部署Prisma遷移:
npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma
運行服務器:
npx nx serve server
服務器現在正在運行。您可以通過導航到http:// localhost:3000/api/healthz來驗證這一點。
在開發模式下,您想在手錶模式下運行codegen ,因此每當您更改模式時,都會自動生成類型。運行服務器後,在單獨的終端窗口中運行以下內容:
npm run graphql:codegen:watch
這將直接將CodeGen連接到服務器,並在更改時將GraphQL模式保持最新。
最後,您準備運行Pezzo控制台:
npx nx serve console
就是這樣!現在可以通過http:// localhost訪問Pezzo控制台:4200
我們歡迎社區的捐款!請隨時提交拉動請求或為錯誤或功能建議創建問題。
如果您想做出貢獻但不確定如何加入我們的不和諧,我們會很樂意為您提供幫助!
請在貢獻前查看貢獻。
該存儲庫的源代碼可在Apache 2.0許可下獲得。