pezzo

Pezzo-это полностью облачная платформа Llmops с открытым исходным кодом. Бесполезно соблюдать и следить за своими операциями по ИИ, устранения проблем, сэкономьте до 90% на затраты и задержку, сотрудничайте и управляйте вашими подсказками в одном месте и мгновенно внесены изменения в области искусственного интеллекта.

Функции

Документация

Нажмите здесь, чтобы перейти к официальной документации Pezzo

В документации вы можете найти информацию о том, как использовать Pezzo, его архитектуру, включая учебные пособия и рецепты для вариантов использования варианта и поставщиков LLM.

Поддерживаемые клиенты

Особенность	Node.js • Docs	Python • Docs	Лангхейн
Быстрое управление	✅	✅	✅
Наблюдаемость	✅	✅	✅
Кэширование	✅	✅	✅

Ищете клиента, который здесь не указан? Откройте проблему и дайте нам знать!

Начало работы - Docker Compose

Если вы просто хотите запустить полный стек Pezzo локально, проверьте работу с Docker Compose в документации.

Если вы хотите запустить Pezzo в режиме разработки, продолжите чтение.

Предварительные условия

• Node.js 18+
• Докер
• (Рекомендуется) Поддержка функции языка GraphQL

Установить зависимости

Установите зависимости NPM, работая:

 npm install

Настройка файлов среды

Pezzo использует файл .env для хранения переменных среды. При использовании Docker вы также должны создать файл .env.docker.

Смотрите файл .env.example для справки.

Раскрыть зависимости инфраструктуры через Docker Compose

Pezzo полностью облачный и полагается исключительно на технологии с открытым исходным кодом, такие как PostgreSQL, Clickhouse, Redis и Supertokens.

Вы можете запустить эти зависимости через Docker Compose:

 docker-compose -f docker-compose.infra.yaml up

Начни Пеццо

Развернуть миграции Prisma:

 npx dotenv-cli -e apps/server/.env -- npx prisma migrate deploy --schema apps/server/prisma/schema.prisma

Запустите сервер:

 npx nx serve server

Сервер сейчас работает. Вы можете проверить это, навигая на http: // localhost: 3000/api/healthz.

В режиме разработки вы хотите запустить codegen в режиме наблюдения, поэтому, когда вы вносите изменения в схему, типы генерируются автоматически. После запуска сервера запустите следующее в отдельном окне терминала :

 npm run graphql:codegen:watch

Это подключит CodeGen непосредственно к серверу и сохранит вашу схему graphQL в актуальной схеме при внесении изменений.

Наконец, вы готовы запустить консоль Pezzo:

 npx nx serve console

Вот и все! Консоль Pezzo теперь доступна по адресу http: // localhost: 4200

Внося

Мы приветствуем вклад сообщества! Пожалуйста, не стесняйтесь отправлять запросы на привлечение или создавать проблемы для ошибок или предложений функций.

Если вы хотите внести свой вклад, но не уверены, как, присоединяйтесь к нашему разногласию, и мы будем рады вам помочь!

Пожалуйста, ознакомьтесь с Anforming.md, прежде чем внести свой вклад.

Лицензия

Исходный код этого хранилища доступен по лицензии Apache 2.0.