Monocle zur Verfolgung von Genai App -Code
Monocle hilft Entwicklern und Plattformingenieuren, Genai-Apps aufzubauen oder zu verwalten, diese in ProD, indem sie einfach in das Instrumentieren ihres Codes instrumentieren, um Spuren zu erfassen, die dem Open-Source-Cloud-nativen Observabilität-Ökosystem entsprechen.
Monocle ist ein Community-gesteuerter OSS-Framework für die Verfolgung von Genai App-Code, das als Linux Foundation AI & Data Project regiert wird.
Warum Monocle
Monocle ist gebaut für:
- App -Entwickler, um ihren App -Code in jeder Umgebung ohne viel benutzerdefinierte Codedekoration zu verfolgen
- Plattformingenieure zu Instrumenten -Apps in prod durch ein Wickeln, anstatt App Devs zum Wiederaufbau zu bitten
- Anbieter von Genai -Komponenten, um ihren Produkten Beobachtbarkeitsfunktionen hinzuzufügen
- Unternehmen , um Spuren von Genai-Apps in ihrem vorhandenen Open-Source-Beobachtbarkeitsstapel zu konsumieren
Vorteile:
- Monocle bietet ein Implementierung + Paket, nicht nur eine Spezifikation
- Kein Fachwissen in der OpenTelemetry -Spezifikation erforderlich
- Keine maßgeschneiderte Implementierung dieser Spezifikation erforderlich
- Kein Last-Mile-Genai-Domain-spezifischer Code, der zum Instrument Ihrer App erforderlich ist
- Monocle bietet Konsistenz
- Schließen Sie die Spuren über App -Code -Ausführungen, Modellinferenz oder Datenabrufe an
- Keine Reinigung von Telemetriedaten über Genai -Komponentenanbieter erforderlich
- Funktioniert dasselbe in Personal Lab Dev oder Org Cloud Cloud -Produktumgebungen
- Senden Sie Spuren an Ort
- Monocle ist vollständig Open Source und Community Driven
- Kein Verkäuferschloss
- Die Implementierung ist transparent
- Sie können es frei verwenden oder anpassen, um Ihren Anforderungen zu entsprechen
Was Monocle bietet
- Einfach zu bedienen Codeinstrumentierung
- Opentelemetrie kompatibeles Format für Spannweiten.
- Gemeinschaftsgeräte und erweiterbarer Metamodell für die allgemeine Verfolgung von Genai-Komponenten.
- Exportieren Sie in lokaler und Cloud -Speicher
Verwenden Sie Monocle
- Holen Sie sich das Monocle -Paket
pip install monocle_apptrace
- Instrument Ihren App -Code
- Importieren Sie das Monocle -Paket
from monocle_apptrace.instrumentor import setup_monocle_telemetry
- Setup -Instrumentierung in Ihrer
main() -Funktion setup_monocle_telemetry(workflow_name="your-app-name")
- (Optional) Ändern Sie die Konfiguration, um zu ändern, wo Spuren gesendet werden
Weitere Informationen finden Sie unter Monocle User Guide.
Roadmap
Das Ziel von Monocle ist es, die Verfolgung von Apps in jeder Sprache mit einer LLM -Orchestrierung oder einem agentenischen Rahmen zu unterstützen und mit Modellen, Vektoren, Agenten oder anderen Komponenten erstellt, die von einer Cloud- oder Modellinferenzanbieter bedient werden.
Die aktuelle Version unterstützt:
- Sprache: (?) Python, () Typscript
- LLM-Frameworks: (?) Langchain, (?) Llamaindex, (?) Heuheule, () Flasche
- LLM -Inferenzanbieter: (?) OpenAI, (?) Azure Openai, (?) Nvidia Triton, () AWS -Grundgestein, () Google Vertex, () Azure ML, () umarmtes Gesichtsgesicht
- Vektorspeicher: (?) Faiss, () OpenSearch, () Milvus
- Exporteur: (?) Stdout, (?) Datei, () Azure Blob -Speicher, () AWS S3, () Google Cloud -Speicher für Google Cloud
Sich beteiligen
Feedback geben
- Senden Sie Probleme und Verbesserungsanfragen über GitHub -Probleme
Beitragen
- Monocle ist Community -basierte Open -Source -Projekt. Wir begrüßen Ihre Beiträge. Weitere Richtlinien finden Sie im beitragen und code_of_conduc. Der Leitfaden des Mitwirkenden enthält technische Details des Projekts.
