Genai 앱 코드 추적을위한 단일
Monocle은 개발자 및 플랫폼 엔지니어 Genai 앱을 구축하거나 관리하는 데 도움이됩니다. Genai 앱을 구축하거나 관리하는 데 도움이됩니다. Open-Source Cloud-Native Observability Ecosystem을 준수하는 흔적을 캡처하기 위해 코드를 쉽게 도구 할 수 있도록하여 Prod에서이를 모니터링합니다.
Monocle은 Linux Foundation AI & Data Project로 관리되는 Genai 앱 코드를 추적하기위한 커뮤니티 중심의 OSS 프레임 워크입니다.
왜 모노클
모노클은 다음을 위해 만들어졌습니다.
- 앱 개발자는 많은 사용자 정의 코드 장식없이 모든 환경에서 앱 코드를 추적합니다.
- 플랫폼 엔지니어는 앱 개발자를 요청하는 대신 포장을 통해 Prod의 악기 앱에 대한 플랫폼 엔지니어
- 제품에 관찰 기능을 추가하기위한 Genai Component 제공자
- 기존 오픈 소스 관찰 가능성 스택에서 Genai 앱에서 흔적을 소비하는 기업
이익:
- Monocle은 사양뿐만 아니라 구현 + 패키지를 제공합니다.
- OpenTeLemetry 사양에 대한 전문 지식이 필요하지 않습니다
- 해당 사양의 맞춤형 구현이 필요하지 않습니다
- 앱을 기기에 사용하는 데 필요한 최후의 Genai 도메인 특정 코드 없음
- 모노클은 일관성을 제공합니다
- 앱 코드 실행, 모델 추론 또는 데이터 검색에서 흔적 연결
- Genai 구성 요소 제공 업체의 원격 측정 데이터 정리가 필요하지 않습니다.
- Personal Lab Dev 또는 Org Cloud Prod 환경에서도 동일하게 작동합니다.
- 스케일, 예산 및 관찰 가능성 스택에 맞는 위치로 흔적 보내기
- 모노클은 완전히 오픈 소스이며 커뮤니티 중심입니다
- 공급 업체 잠금 장치가 없습니다
- 구현은 투명합니다
- 필요에 맞게 자유롭게 사용하거나 사용자 정의 할 수 있습니다.
모노클이 제공하는 것
- 사용하기 쉬운 코드 계측
- SPAN에 대한 OpEntElemetry 호환 형식.
- Genai 구성 요소의 합의 추적을위한 커뮤니티-큐 레이트 및 확장 가능한 메타 모드.
- 로컬 및 클라우드 스토리지로 내보내기
모노클을 사용하십시오
pip install monocle_apptrace
- 앱 코드를 계측하십시오
- 모노클 패키지를 가져옵니다
from monocle_apptrace.instrumentor import setup_monocle_telemetry
main() 함수의 설정 계측 setup_monocle_telemetry(workflow_name="your-app-name")
- (선택적으로) 추적이 전송되는 위치를 변경하도록 구성을 수정하십시오
자세한 내용은 Monocle 사용자 안내서를 참조하십시오.
로드맵
Monocle의 목표는 LLM 오케스트레이션 또는 에이전트 프레임 워크를 사용하여 모든 언어 로 작성된 앱 추적을 지원하고 모든 클라우드 또는 모델 추론 제공 업체가 제공하는 모델, 벡터, 에이전트 또는 기타 구성 요소를 사용하여 구축하는 것입니다.
현재 버전 지원 :
- 언어 : (?) Python, () TypeScript
- llm-frameworks : (?) langchain, (?) llamaindex, (?) Haystack, () 플라스크
- LLM 추론 제공 업체 : (?) OpenAi, (?) Azure Openai, (?) NVIDIA TRITON, () AWS BEDROCK, () Google vertex, () Azure ML, () 포옹 얼굴
- 벡터 저장 : (?) Faiss, () OpenSearch, () Milvus
- Exporter : (?) stdout, (?) 파일, () Azure Blob Storage, () AWS S3, () Google Cloud Storage
참여하십시오
피드백을 제공합니다
- GitHub 문제를 통해 문제 및 개선 요청을 제출하십시오
기여하다
- Monocle은 커뮤니티 기반 오픈 소스 프로젝트입니다. 우리는 당신의 기여를 환영합니다. 가이드 라인은 기여 및 code_of_conduct를 참조하십시오. 기고자 안내서는 프로젝트의 기술적 세부 정보를 제공합니다.