Monocle untuk melacak kode aplikasi Genai
Monocle membantu pengembang dan insinyur platform membangun atau mengelola aplikasi Genai memantau ini dalam prod dengan memudahkan untuk instrumen kode mereka untuk menangkap jejak yang sesuai dengan ekosistem observabilitas cloud-pribumi sumber terbuka.
Monocle adalah kerangka kerja OSS yang digerakkan oleh masyarakat untuk melacak kode aplikasi Genai yang diatur sebagai Proyek AI & Data Linux Foundation.
Mengapa Monocle
Monocle dibangun untuk:
- pengembang aplikasi untuk melacak kode aplikasi mereka di lingkungan apa pun tanpa banyak dekorasi kode khusus
- Insinyur Platform ke Aplikasi Instrumen di Prod Through Wrapping Alih -alih Meminta Pengembang Aplikasi Untuk Merek Kode
- Penyedia komponen Genai untuk menambahkan fitur observabilitas ke produk mereka
- perusahaan untuk mengkonsumsi jejak dari aplikasi Genai di tumpukan observabilitas sumber terbuka yang ada
Manfaat:
- Monocle menyediakan paket implementasi +, bukan hanya spesifikasi
- Tidak ada keahlian dalam spesifikasi opentelemetry
- Tidak ada implementasi yang dipesan lebih dahulu dari spek yang diperlukan
- Tidak ada kode spesifik domain genai terakhir yang diperlukan untuk instrumen aplikasi Anda
- Monocle memberikan konsistensi
- Hubungkan jejak di seluruh eksekusi kode aplikasi, inferensi model atau pengambilan data
- Tidak ada pembersihan data telemetri di seluruh penyedia komponen Genai
- Bekerja sama di Lab Lab Pribadi atau Lingkungan Prod Cloud Org
- Kirim jejak ke lokasi yang sesuai dengan skala, anggaran, dan tumpukan observabilitas Anda
- Monocle sepenuhnya open source dan komunitas didorong
- Tidak ada penguncian vendor
- Implementasi transparan
- Anda dapat menggunakan atau menyesuaikannya secara bebas agar sesuai dengan kebutuhan Anda
Apa yang disediakan Monocle
- Instrumentasi kode yang mudah digunakan
- Format kompatibel OpenTelemetry untuk rentang.
- Metamodel yang dikuratori masyarakat dan dapat diperluas untuk penelusuran komponen Genai yang disetujui.
- Ekspor ke penyimpanan lokal dan cloud
Gunakan monocle
pip install monocle_apptrace
- Instrumen kode aplikasi Anda
- Impor paket monocle
from monocle_apptrace.instrumentor import setup_monocle_telemetry
- Pengaturan instrumentasi di fungsi
main() Anda setup_monocle_telemetry(workflow_name="your-app-name")
- (Secara opsional) Ubah konfigurasi untuk mengubah tempat jejak dikirim
Lihat Panduan Pengguna Monocle untuk detail lebih lanjut.
Peta jalan
Tujuan Monocle adalah untuk mendukung penelusuran untuk aplikasi yang ditulis dalam bahasa apa pun dengan orkestrasi LLM atau kerangka kerja agen dan dibangun menggunakan model, vektor, agen atau komponen lain yang disajikan oleh penyedia inferensi cloud atau model apa pun .
Versi saat ini mendukung:
- Bahasa: (?) Python, () TypeScript
- LLM-Frameworks: (?) Langchain, (?) Llamaindex, (?) Haystack, () Flask
- Penyedia inferensi LLM: (?) Openai, (?) Azure Openai, (?) Nvidia Triton, () AWS Bedrock, () Google Vertex, () Azure ML, () Wajah Memeluk
- Toko Vektor: (?) Faiss, () OpenSearch, () Milvus
- Eksportir: (?) Stdout, (?) File, () Azure Blob Storage, () AWS S3, () Google Cloud Storage
Terlibat
Berikan umpan balik
- Kirimkan masalah dan peningkatan permintaan melalui masalah GitHub
Menyumbang
- Monocle adalah proyek open source berbasis komunitas. Kami menyambut kontribusi Anda. Silakan merujuk ke kontribusi dan kode_of_conduct untuk pedoman. Panduan Kontributor memberikan rincian teknis proyek.
