langfuse

Langfuse: Инженерная платформа с открытым исходным кодом LLM

LLM наблюдаемость, быстрое управление, оценка LLM,
Наборы данных, метрики LLM и быстрое игровую площадку

Зарегистрируйтесь · Self Host · Demo (Live Data)

Документы · Ошибка отчета · Запрос на функцию · Чангейлог · Дорожная карта · Дискорд

Langfuse использует дискуссии GitHub для поддержки и запросов функций.
Мы нанимаем. Присоединяйтесь к нам в области разработки продуктов и отношений разработчиков.

Обзор Langfuse

Врешительное видео для голосования за кадром

langfuse-overview-3min.mp4

Развивать

• LLM ОБЕСПЕЧЕНИЕ: Приблизитесь ваше приложение и начните проглатывать следы в Langfuse (QuickStart, Tracing Integrations)
• Пользовательский интерфейс Langfuse: осмотреть и отлаживать комплексные журналы (демонстрация, отслеживание)
• Обратное управление: управление, версией и развертывание подсказков из Langfuse (быстрое управление)
• Обратная техническая инженерия: тестируйте и вытекает на ваши подсказки с игровой площадкой LLM

Монитор

• Analytics LLM: трековые метрики (стоимость, задержка, качество) и получение понимания от панелей мониторинга и экспорта данных (Analytics)
• Оценки LLM: собирайте и вычислите оценки для ваших завершений LLM (оценки и оценки)
  • Запустить (модельные оценки) и LLM-As-a-a-gudge в Langfuse
  • Соберите отзывы пользователя (отзывы пользователя)
  • Ручной баллы LLM в Langfuse (ручные оценки)

Тест

• Эксперименты: отслеживать и тестировать поведение приложений перед развертыванием новой версии
  • Наборы данных позволяют вам тестировать ожидаемые и выводимые пары и контрольные характеристики перед развертыванием (наборы данных)
  • Отслеживайте версии и релизы в вашем приложении (эксперименты, быстрое управление)

Начните

Langfuse Cloud

Управляемое развертывание командой Langfuse, щедрый бесплатный уровень (Hobby Plan), кредитная карта не требуется.

»Langfuse Cloud

Самоурастание с открытым исходным кодом LLM.

Localhost (Docker)

 # Clone repository
git clone https://github.com/langfuse/langfuse.git
cd langfuse

# Run server and database
docker compose up -d

→ Узнайте больше о развертывании локально

Самоумост (Docker)

Langfuse прост в самостоятельстве и продолжает обновляться. В настоящее время требуется только один контейнер Docker и база данных Postgres. → Инструкции по самостоятельному хостингу

Шаблонные развертывания: железная дорога, GCP, AWS, Azure, Kubernetes и другие

Начните

Ключи API

Вам нужен общественный и секретный ключ Langfuse, чтобы начать работу. Зарегистрируйтесь здесь и найдите их в настройках проекта.

Приглашение данных.

ПРИМЕЧАНИЕ. Мы рекомендуем использовать нашу полностью асинхронную, напечатанную SDK, которые позволяют вам предназначать любое приложение LLM с любой базовой моделью. Они доступны в Python (декораторы) и JS/TS. SDK всегда будут наиболее полностью представленным и стабильным способом проглатывания данных в Langfuse.

Смотрите → QuickStart, чтобы интегрировать Langfuse.

Интеграции наблюдения LLM

Интеграция	Поддержка	Описание
SDK	Python, JS/TS	Ручная инструментация с использованием SDK для полной гибкости.
Openai	Python, JS/TS	Автоматизированная инструментария с использованием замены SDK Openai.
Лангхейн	Python, JS/TS	Автоматизированное приборы путем передачи обработчика обратного вызова в приложение Langchain.
Lmamaindex	Питон	Автоматизированная инструментария через систему обратного вызова Lmaindex.
Сетей	Питон	Автоматизированная инструментария через систему отслеживания контента сена.
Лителм	Python, JS/TS (только прокси)	Используйте любой LLM в качестве падения замены для GPT. Используйте Azure, Openai, Cohere, Anpropic, Ollama, VLLM, SageMaker, HuggingFace, Replicate (100+ LLMS).
Vercel ai sdk	JS/TS	TypeScript Toolkit, предназначенный для того, чтобы помочь разработчикам создать приложения с AI с помощью React, Next.js, Vue, Svelte, Node.js.
API		Напрямую вызовите публичный API. OpenApi Special доступна.

Пакеты, интегрированные с Langfuse:

Имя	Описание
Инструктор	Библиотека, чтобы получить структурированные выходы LLM (JSON, Pydantic)
Раскол	Платформа разработки приложений с открытым исходным исходным кодом с Builder.
Оллама	Легко запустите LLMS с открытым исходным кодом на собственной машине.
Мираскоп	Python Toolkit для строительства приложений LLM.
Поток	JS/TS Builder для индивидуальных потоков LLM.
Лэнгфлоу	Пользовательский интерфейс на основе Python для Langchain, разработанный с помощью React-Flow, чтобы обеспечить легкий способ экспериментов и прототипов.

Вопросы и обратная связь

Идеи и дорожная карта

• Дорожная карта
• Дискуссии GitHub
• Запросы функций

Поддержка и обратная связь

В порядке предпочтения лучший способ общаться с нами:

• Обсуждения GitHub (предпочтительно): внести вклад в идеи, запросы на поддержку и сообщать об ошибках
• Discord: поддержка сообщества
• В частном порядке: свяжитесь с Langfuse Dot Com

Вклад в Лангфуз

• Голосуйте за идеи
• Поднять и комментировать вопросы
• Откройте PR - см. Appling.md для получения подробной информации о том, как настроить среду разработки.

Лицензия

Этот репозиторий лицензирован MIT, за исключением папок ee . Смотрите лицензию и документы для получения более подробной информации.

Разное

Получите API для экспорта ваших данных

Получите маршруты для использования данных в приложениях нижестоящих приложений (например, встраиваемая аналитика). Вы также можете получить доступ к ним удобно через SDK (документы).

Безопасность и конфиденциальность

Мы серьезно относимся к безопасности данных и конфиденциальности. Пожалуйста, обратитесь к нашей странице безопасности и конфиденциальности для получения дополнительной информации.

Телеметрия

По умолчанию Langfuse автоматически сообщает о базовой статистике использования самостоятельных экземпляров на централизованный сервер (Posthog).

Это помогает нам:

1. Поймите, как используется Langfuse, и улучшить наиболее важные функции.
2. Отслеживайте общее использование для внутренней и внешней (например, сбора средств) отчетности.

Ни один из данных не совместно используется с третьими лицами и не включает никакой конфиденциальной информации. Мы хотим быть очень прозрачными в этом, и вы можете найти точные данные, которые мы собираем здесь.

Вы можете отказаться, установив TELEMETRY_ENABLED=false .

Звездная история