langfuse

Langfuse：オープンソースLLMエンジニアリングプラットフォーム

LLMの観測可能性、迅速な管理、LLM評価、
データセット、LLMメトリック、およびプロンプトの遊び場

サインアップ・セルフホスト・デモ（ライブデータ）

ドキュメント・レポートバグ・機能リクエスト・changelog・ロードマップ・和解

LangFuseは、サポートと機能のリクエストにGitHubディスカッションを使用します。
私たちは雇っています。製品エンジニアリングと開発者関係にご参加ください。

langfuseの概要

ナレーション用のミュートビデオ

langfuse-overview-3min.mp4

開発する

• LLMの観測可能性：アプリを機器にして、langfuseへのトレースの摂取を開始します（QuickStart、統合トレース）
• Langfuse UI：複雑なログを検査およびデバッグする（デモ、トレース）
• プロンプト管理： LangFuse内からのプロンプトの管理、バージョン、展開（プロンプトマネジメント）
• プロンプトエンジニアリング： LLMプレイグラウンドでプロンプトをテストして反復

モニター

• LLM分析：メトリック（コスト、レイテンシ、品質）を追跡し、ダッシュボードとデータエクスポート（分析）から洞察を得る
• LLM評価： LLMの完了のスコアを収集および計算します（スコアと評価）
  • Langfuse内での実行（モデルベースの評価）およびLLM-A-A-Judge
  • ユーザーフィードバックを収集する（ユーザーフィードバック）
  • LangfuseでLLM出力を手動で獲得する（マニュアルスコア）

テスト

• 実験：新しいバージョンを展開する前に、アプリの動作を追跡およびテストする
  • データセットでは、展開する前に、予想された内および出力ペアとベンチマークのパフォーマンスをテストすることを可能にします（データセット）
  • アプリケーションでバージョンとリリースを追跡します（実験、迅速な管理）

始めましょう

langfuseクラウド

Langfuseチームによる管理展開、寛大なフリーティア（趣味計画）、クレジットカードは不要です。

»langfuseクラウド

LangFuseによる自己ホスティングオープンソースLLMの観測可能性

localhost（docker）

 # Clone repository
git clone https://github.com/langfuse/langfuse.git
cd langfuse

# Run server and database
docker compose up -d

→ローカルの展開の詳細をご覧ください

自己ホスト（Docker）

Langfuseは、自己ホストが簡単で、更新を続けています。現在、単一のDockerコンテナとPostgresデータベースのみが必要です。 →セルフホスティングの指示

テンプレートの展開：鉄道、GCP、AWS、Azure、Kubernetesなど

始めましょう

APIキー

開始するには、Langfuse Public and Secret Keyが必要です。ここにサインアップして、プロジェクト設定で見つけてください。

データの摂取・アプリケーションの計装・LANGFUSEを使用したLLMの観察

注：根本的なモデルを使用してLLMアプリケーションを機器にすることができる完全に非同期のタイプされたSDKを使用することをお勧めします。 Python（デコレーター）およびJS/TSで利用できます。 SDKは常に、データをLangfuseに摂取するための最も完全に機能し、安定した方法です。

LangFuseを統合するには、→QuickStartを参照してください。

LLM観測可能性統合

統合	サポート	説明
SDK	Python、JS/TS	完全な柔軟性のためにSDKを使用した手動機器。
Openai	Python、JS/TS	Openai SDKのドロップイン交換を使用した自動計装。
ラングチェーン	Python、JS/TS	コールバックハンドラーをLangchainアプリケーションに渡すことによる自動計装。
llamaindex	Python	LlamainDexコールバックシステムを介した自動計装。
ヘイスタック	Python	Haystackコンテンツトレースシステムを介した自動計装。
litellm	Python、JS/TS（プロキシのみ）	GPTの代替品の低下として任意のLLMを使用します。 Azure、Openai、Cohere、Anthropic、Ollama、Vllm、Sagemaker、Huggingface、Replicate（100+ LLMS）を使用します。
Vercel AI SDK	JS/TS	開発者がReact.js、vue、svelte、node.jsを使用してAI搭載アプリケーションを構築できるように設計されたTypeScript Toolkit
API		パブリックAPIを直接呼び出します。 Openapi仕様が利用可能です。

LangFuseと統合されたパッケージ：

名前	説明
インストラクター	構造化されたLLM出力を取得するライブラリ（JSON、Pydantic）
dify	ノーコードビルダーを備えたオープンソースLLMアプリ開発プラットフォーム。
オラマ	自分のマシンでオープンソースLLMSを簡単に実行できます。
ミラスコープ	LLMアプリケーションを構築するためのPythonツールキット。
Flowise	カスタマイズされたLLMフロー用のJS/TSノーコードビルダー。
langflow	Langchain用のPythonベースのUIは、React-Flowで設計され、実験およびプロトタイプフローを提供する簡単な方法を提供します。

質問とフィードバック

アイデアとロードマップ

• ロードマップ
• Githubの議論
• 機能リクエスト

サポートとフィードバック

好みの順に、私たちとコミュニケーションをとる最良の方法：

• Githubディスカッション（優先）：アイデアを寄付し、リクエストをサポートし、バグをレポートする
• 不和：コミュニティサポート
• 個人的に：Langfuse Dot comでお問い合わせください

Langfuseに貢献します

• アイデアに投票してください
• 問題について提起してコメントします
• PRを開く - 開発環境のセットアップ方法の詳細については、converting.mdを参照してください。

ライセンス

このリポジトリは、 eeフォルダーを除き、MITライセンスを取得しています。詳細については、ライセンスとドキュメントを参照してください。

その他

APIを取得してデータをエクスポートします

ダウンストリームアプリケーションでデータを使用するルートを取得します（例：組み込み分析）。 SDK（docs）を介して便利にアクセスすることもできます。

セキュリティとプライバシー

データのセキュリティとプライバシーを真剣に受け止めています。詳細については、セキュリティとプライバシーのページを参照してください。

テレメトリー

デフォルトでは、LangFuseは、自己ホストされたインスタンスの基本的な使用統計を集中サーバー（POSTHOG）に自動的に報告します。

これは私たちに役立ちます：

1. Langfuseがどのように使用されるかを理解し、最も関連性の高い機能を改善します。
2. 内部および外部（資金調達）レポートの全体的な使用を追跡します。

データはいずれも第三者と共有されておらず、機密情報は含まれていません。これについて非常に透明になりたいと思っています。ここで収集した正確なデータを見つけることができます。

TELEMETRY_ENABLED=falseを設定してオプトアウトできます。

星の歴史