Genai AppコードをトレースするためのMonocle
Monocleは、開発者とプラットフォームエンジニアがGenai Appsを構築または管理するのを支援します。Genaiアプリは、オープンソースのクラウドネイティブの観測可能性エコシステムに準拠したトレースをキャプチャするためにコードを簡単に計算できるようにすることにより、製品でこれらを監視します。
Monocleは、Linux Foundation AI＆Data Projectとして管理されているGenai Appコードをトレースするためのコミュニティ主導のOSSフレームワークです。
なぜモノクル
モノクルは次のために構築されています：
- アプリ開発者は、多くのカスタムコード装飾なしであらゆる環境でアプリコードをトレースするためのアプリ開発者
- プラットフォームエンジニアは、アプリ開発者にレコードを依頼する代わりに、ラッピングを通じて製品のアプリを機器に機器にするためのエンジニア
- Genaiコンポーネントプロバイダーは、観察可能性機能を製品に追加します
- 既存のオープンソースの観測可能性スタックでGenaiアプリから痕跡を消費する企業
利点：
- モノクルは、仕様だけでなく、実装 +パッケージを提供します
- Opentelemetry Specの専門知識は必要ありません
- その仕様の特注の実装は必要ありません
- アプリを機器にするために必要なラストマイルのGenaiドメイン固有のコードはありません
- モノクルは一貫性を提供します
- アプリコードの実行、モデルの推論、またはデータ取得全体にトレースを接続する
- Genaiコンポーネントプロバイダー全体のテレメトリーデータのクレンジングは必要ありません
- パーソナルラボDEVまたはORGクラウド製品環境でも同じように機能します
- スケール、予算、観察可能性スタックに適合する場所にトレースを送信します
- モノクルは完全にオープンソースであり、コミュニティ駆動型です
- ベンダーのロックインはありません
- 実装は透明です
- ニーズに合わせて自由に使用またはカスタマイズできます
モノクルが提供するもの
- 使いやすいコードインストゥルメンテーション
- スパンのOpentelemetry互換形式。
- genaiコンポーネントの一定のトレース用のコミュニティキュレーションおよび拡張可能なメタモデル。
- ローカルおよびクラウドストレージへのエクスポート
モノクルを使用してください
pip install monocle_apptrace
- アプリコードを計算します
- モノクルパッケージをインポートします
from monocle_apptrace.instrumentor import setup_monocle_telemetry
main()関数のセットアップインストゥルメンテーション setup_monocle_telemetry(workflow_name="your-app-name")
- （オプション）configを変更して、トレースが送信される場所を変更します
詳細については、Monocleユーザーガイドを参照してください。
ロードマップ
モノクルの目標は、 LLMオーケストレーションまたはエージェントフレームワークを使用して、あらゆる言語で記述され、モデル、ベクター、エージェント、またはクラウドまたはモデルの推論プロバイダーが提供するその他のコンポーネントを使用して構築されたアプリのトレースをサポートすることです。
現在のバージョンはサポートしています：
- 言語：（？）Python、（）TypeScript
- llm-frameworks：（？）langchain、（？）llamaindex、（？）haystack、（）flask
- LLM Inconferent Providers：（？）Openai、（？）Azure Openai、（？）Nvidia Triton、（）AWS Bedrock、（）Google Vertex、（）Azure Ml、（）Hugging Face
- ベクトルストア：（？）faiss、（）opensearch、（）milvus
- exporter：（？）stdout、（？）file、（）azure blobストレージ、（）aws s3、（）googleクラウドストレージ
参加してください
フィードバックを提供します
- GitHubの問題を介して問題と拡張機能のリクエストを送信します
貢献する
- モノクルは、コミュニティベースのオープンソースプロジェクトです。貢献を歓迎します。ガイドラインについては、貢献とcode_of_conductを参照してください。 Contributor's Guideは、プロジェクトの技術的な詳細を提供します。
