pezzo

Pezzo adalah platform LLMOPS yang sepenuhnya cloud-asli dan open-source. Mengamati dan memantau operasi AI Anda dengan mulus, memecahkan masalah, menghemat hingga 90% dari biaya dan latensi, berkolaborasi dan mengelola petunjuk Anda di satu tempat, dan langsung memberikan perubahan AI.

Fitur

Dokumentasi

Klik di sini untuk menavigasi ke dokumentasi Pezzo resmi

Dalam dokumentasi, Anda dapat menemukan informasi tentang cara menggunakan Pezzo, arsitekturnya, termasuk tutorial dan resep untuk kasus penggunaan varius dan penyedia LLM.

Klien yang didukung

Fitur	Node.js • Documents	Python • Docs	Langchain
Manajemen yang cepat	✅	✅	✅
Kemampuan observasi	✅	✅	✅
Caching	✅	✅	✅

Mencari klien yang tidak terdaftar di sini? Buka masalah dan beri tahu kami!

Memulai - Docker Compose

Jika Anda hanya ingin menjalankan Pezzo Stack lengkap secara lokal, lihat berjalan dengan Docker Compose dalam dokumentasi.

Jika Anda ingin menjalankan Pezzo dalam mode pengembangan, lanjutkan membaca.

Prasyarat

• Node.js 18+
• Buruh pelabuhan
• (Disarankan) Fitur Bahasa GraphQL Dukungan Ekstensi VScode

Instal dependensi

Instal dependensi NPM dengan menjalankan:

 npm install

Siapkan File Lingkungan

Pezzo menggunakan file .env untuk menyimpan variabel lingkungan. Saat menggunakan Docker, Anda juga harus membuat file .env.docker.

Lihat file .env.example untuk referensi.

Spin Up Infrastructure Dependencies melalui Docker Compose

Pezzo sepenuhnya cloud-asli dan hanya bergantung pada teknologi open-source seperti PostgreSQL, Clickhouse, Redis dan Supertokens.

Anda dapat menjalankan dependensi ini melalui Docker Compose:

 docker-compose -f docker-compose.infra.yaml up

Mulai Pezzo

Menyebarkan migrasi prisma:

 npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma

Jalankan server:

 npx nx serve server

Server sekarang berjalan. Anda dapat memverifikasi itu dengan menavigasi ke http: // localhost: 3000/API/Healthz.

Dalam mode pengembangan, Anda ingin menjalankan codegen dalam mode arloji, jadi setiap kali Anda membuat perubahan pada skema, jenis dihasilkan secara otomatis. Setelah menjalankan server, jalankan yang berikut di jendela terminal terpisah :

 npm run graphql:codegen:watch

Ini akan menghubungkan Codegen langsung ke server dan menjaga skema graphql Anda tetap up-to-date saat Anda membuat perubahan.

Akhirnya, Anda siap menjalankan konsol Pezzo:

 npx nx serve console

Itu saja! Konsol Pezzo sekarang dapat diakses di http: // localhost: 4200

Berkontribusi

Kami menyambut kontribusi dari komunitas! Silakan mengirimkan permintaan tarik atau membuat masalah untuk bug atau saran fitur.

Jika Anda ingin berkontribusi tetapi tidak yakin bagaimana, bergabunglah dengan perselisihan kami dan kami akan dengan senang hati membantu Anda!

Silakan periksa Contributing.md sebelum berkontribusi.

Lisensi

Kode sumber repositori ini tersedia di bawah lisensi Apache 2.0.