langfuse

Langfuse: Plataforma de engenharia de código aberto LLM

Observabilidade LLM, Prompt Management, LLM Avaliações,
Métricas de DataSets, LLM e Playground Playground

Inscreva -se · Self Host · Demo (dados ao vivo)

Docos · Relatório Bug · Solicitação de Recursos · Changelog · Roteiro · Discord

O Langfuse usa discussões no Github para solicitações de suporte e recursos.
Estamos contratando. Junte -se a nós nas relações de engenharia de produtos e desenvolvedores.

Visão geral do Langfuse

Vídeo de ativação de ativação para narração

Langfuse-overview-3min.mp4

Desenvolver

• Observabilidade LLM: Instrument seu aplicativo e comece a ingerir traços para Langfuse (Quickstart, Rastreamento de integrações)
• Langfuse UI: Inspecione e Debug complexa toras (demonstração, rastreamento)
• Gerenciamento de prompt: gerenciar, versão e implantar solicitantes de dentro do Langfuse (Gerenciamento de pronta)
• Engenharia rápida: teste e iterar em seus avisos com o playground LLM

Monitor

• LLM Analytics: rastrear métricas (custo, latência, qualidade) e obter informações sobre painéis e exportações de dados (análise)
• Avaliações LLM: Colete e calcule as pontuações para as conclusões do LLM (pontuações e avaliações)
  • Run (avaliações baseadas em modelo) e LLM-AS-A-JUDGE dentro de Langfuse
  • Colete o feedback do usuário (feedback do usuário)
  • Saídas manualmente de pontuação LLM em Langfuse (pontuações manuais)

Teste

• Experimentos: rastrear e testar o comportamento do aplicativo antes de implantar uma nova versão
  • Conjuntos de dados permitem testar pares esperados e de saída e desempenho de referência antes de implantar (conjuntos de dados)
  • Acompanhe versões e versões em seu aplicativo (experimentação, gerenciamento imediato)

Comece

Langfuse Cloud

A implantação gerenciada pela equipe Langfuse, generosa de camada livre (plano de hobby), nenhum cartão de crédito é necessário.

»Langfuse Cloud

Observabilidade de código aberto auto-hospedeiro com Langfuse

Localhost (Docker)

 # Clone repository
git clone https://github.com/langfuse/langfuse.git
cd langfuse

# Run server and database
docker compose up -d

→ Saiba mais sobre como implantar localmente

Auto-host (Docker)

O Langfuse é simples de auto-host e manter-se atualizado. Atualmente, requer apenas um único contêiner do Docker e um banco de dados do Postgres. → Instruções de hospedagem automática

Implantações modeladas: ferroviária, GCP, AWS, Azure, Kubernetes e outros

Comece

Chaves da API

Você precisa de uma chave pública e secreta do Langfuse para começar. Inscreva -se aqui e encontre -os nas configurações do seu projeto.

Ingerendo dados · Instrumentando sua aplicação · LLM Observabilidade com Langfuse

NOTA: Recomendamos o uso de nossos SDKs digitados totalmente assíncronos, que permitem instrumentar qualquer aplicativo LLM com qualquer modelo subjacente. Eles estão disponíveis em Python (decoradores) e JS/TS. Os SDKs sempre serão a maneira mais totalmente destacada e estável de ingerir dados no Langfuse.

Consulte o → Início rápido para integrar o Langfuse.

Integrações de observabilidade LLM

Integração	Suportes	Descrição
Sdk	Python, JS/TS	Instrumentação manual usando os SDKs para obter total flexibilidade.
Openai	Python, JS/TS	Instrumentação automatizada usando a substituição do OpenAI SDK.
Langchain	Python, JS/TS	Instrumentação automatizada passando o manipulador de retorno de chamada para o aplicativo Langchain.
Llamaindex	Python	Instrumentação automatizada via sistema de retorno de chamada Llandeindex.
Palheiro	Python	Instrumentação automatizada via sistema de rastreamento de conteúdo do palheiro.
Litellm	Python, JS/TS (somente proxy)	Use qualquer LLM como uma queda na substituição do GPT. Use Azure, Openai, Cohere, Antrópico, Ollama, Vllm, Sagemaker, Huggingface, Replicar (100+ LLMs).
VERCEL AI SDK	JS/TS	Typescript Toolkit projetado para ajudar os desenvolvedores a criar aplicativos movidos a IA com React, Next.js, Vue, Sieve, Node.js.
API		Chame diretamente a API pública. Speci Speci disponível.

Pacotes integrados ao Langfuse:

Nome	Descrição
Instrutor	Biblioteca para obter saídas estruturadas LLM (JSON, Pydantic)
DIFY	Plataforma de desenvolvimento de aplicativos de código aberto LLM com construtor sem código.
Ollama	Execute facilmente o Open Source LLMS em sua própria máquina.
Mirascope	Python Toolkit para a construção de aplicativos LLM.
Fluir	JS/TS Sem Codificador Construtor para fluxos LLM personalizados.
Langflow	A interface do usuário baseada em Python para Langchain, projetada com fluxo de reação para fornecer uma maneira sem esforço de experimentar e protótipos fluxos.

Perguntas e feedback

Idéias e roteiro

• Roteiro
• Discussões do Github
• Solicitações de recursos

Suporte e feedback

Em ordem de preferência, a melhor maneira de se comunicar conosco:

• Discussões do Github (preferidas): Contribua com idéias, solicitações de suporte e relatórios de bugs
• Discord: apoio da comunidade
• Privado: Contate em Langfuse Dot Com

Contribuindo para Langfuse

• Vote em idéias
• Levantar e comentar sobre questões
• Abra um PR - consulte Contribuindo.md para obter detalhes sobre como configurar um ambiente de desenvolvimento.

Licença

Este repositório é licenciado pelo MIT, exceto nas pastas ee . Consulte a licença e os documentos para obter mais detalhes.

Misc

Faça com que a API exporte seus dados

Obtenha rotas para usar dados em aplicativos a jusante (por exemplo, análises incorporadas). Você também pode acessá -los convenientemente através dos SDKs (DOCs).

Segurança e privacidade

Levamos a sério a segurança e a privacidade dos dados. Consulte nossa página de segurança e privacidade para obter mais informações.

Telemetria

Por padrão, o Langfuse relata automaticamente estatísticas de uso básico de instâncias auto-hospedadas a um servidor centralizado (POSTHOG).

Isso nos ajuda a:

1. Entenda como o Langfuse é usado e melhore os recursos mais relevantes.
2. Acompanhe o uso geral para relatórios internos e externos (por exemplo, captação de recursos).

Nenhum dos dados é compartilhado com terceiros e não inclui nenhuma informação confidencial. Queremos ser super transparentes sobre isso e você pode encontrar os dados exatos que coletamos aqui.

Você pode optar por não ter uma configuração de TELEMETRY_ENABLED=false .

História da estrela