openlit التنزيل - تنزيل رمز المصدر openlit

openlit

شفرة المصدر الأخرى

py-1.32.5

تنزيل

قابلية الملاحظة ، والتقييمات ، والدرابزين ، والمطالبات ، والقبو ، والملعب

منصة مفتوحة المصدر لهندسة الذكاء الاصطناعى

الوثائق | QuickStart | بيثون SDK | TypeScript SDK |

خريطة الطريق | طلب ميزة | الإبلاغ عن خطأ

DEMO.MP4

يتيح لك OpenLit تبسيط سير عمل تطوير الذكاء الاصطناعى ، خاصة بالنسبة ل AI و LLMS. إنه يقلل من المهام الأساسية مثل تجربة LLMs ، ومطالبات التنظيم والإصدار ، والتعامل مع مفاتيح API بشكل آمن. مع سطر واحد فقط من التعليمات البرمجية ، يمكنك تمكين قابلية التواصل بين الأوبنتيليميتر ، مما يوفر مراقبة كاملة المكاسب التي تشمل LLMs ، وقواعد بيانات المتجهات ، ووحدات معالجة الرسومات. يمكّن ذلك المطورين من بناء ميزات وتطبيقات الذكاء الاصطناعي بثقة ، والانتقال بسلاسة من الاختبار إلى الإنتاج.

يتبع هذا المشروع بفخر ويحافظ على الاتفاقيات الدلالية مع مجتمع قياس الأوبنتيل ، ويتم تحديثه باستمرار للتوافق مع أحدث المعايير في الملاحظة.

⚡ الميزات

لافتة مفتوحة

؟ لوحة معلومات Analytics : راقب صحة وأداء تطبيق الذكاء الاصطناعي مع لوحات معلومات مفصلة تتبع المقاييس والتكاليف وتفاعلات المستخدم ، مما يوفر رؤية واضحة للكفاءة الإجمالية.
؟ sdks opentelemetry-native sdks : SDKs المحايدة للبائع لإرسال آثار ومقاييس إلى أدوات الملاحظة الحالية.
؟ تتبع التكلفة للنماذج المخصصة والمثابة : تقديرات تكلفة خياط لنماذج محددة باستخدام ملفات التسعير المخصصة للميزنة الدقيقة.
؟ استثناءات مراقبة لوحة معلومات : اكتشف المشكلات بسرعة وحل المشكلات عن طريق تتبع استثناءات وأخطاء شائعة مع لوحة معلومات مراقبة مخصصة.
؟ إدارة المطالبات : إدارة ومطالبات الإصدار باستخدام محور موجه للوصول المتسق والسهل عبر التطبيقات.
؟ مفاتيح API وإدارة الأسرار : تعامل بشكل آمن مع مفاتيح API والأسرار مركزيًا ، وتجنب الممارسات غير الآمنة.
؟ تجربة مع LLMs مختلفة : استخدم Openground لاستكشاف واختبار ومقارنة مختلف LLMS جنبًا إلى جنب.

البدء مع قابلية الملاحظة LLM

 مخطط انسيابي السل ؛
    الخرف الفرعي ""
        الاتجاه LR ؛
        الخرف الفرعي ""
            الاتجاه LR ؛
            OpenLit_sdk [OpenLit SDK] -> | يرسل آثار ومقاييس | OTC [Collector OpentElemetry] ؛
            OTC -> | تخزين البيانات | clickHousedB [clickhouse] ؛
        نهاية
        الخرف الفرعي ""
            الاتجاه RL ؛
            OpenLit_UI [OpenLit] -> | سحب البيانات | ClickHousedB.
        نهاية
    نهاية

الخطوة 1: نشر مكدس OpenLit

مستودع GIT Clone OpenLIT
افتح سطر الأوامر أو المحطة الطرفية وتشغيله:
```
git clone [email protected]:openlit/openlit.git
```
مضيف الذات باستخدام Docker
نشر وتشغيل OpenLit مع الأمر التالي:
```
docker compose up -d
```

للحصول على إرشادات حول التثبيت في Kubernetes باستخدام Helm ، راجع دليل تثبيت Kubernetes.

الخطوة 2: تثبيت OpenLit SDK

افتح سطر الأوامر أو المحطة الطرفية وتشغيله:

pip install openlit

للحصول على إرشادات حول استخدام TypeScript SDK ، تفضل بزيارة دليل تثبيت TypeScript SDK.

الخطوة 3: تهيئة OpenLit في التطبيق الخاص بك

دمج OpenLit في تطبيقات الذكاء الاصطناعى عن طريق إضافة الأسطر التالية إلى الكود الخاص بك.

 import openlit

openlit . init ()

تكوين وجهة بيانات القياس عن بعد على النحو التالي:

غاية	المعلمة/بيئة متغير	للإرسال إلى OpenLit
إرسال البيانات إلى نقطة نهاية HTTP OTLP	`otlp_endpoint` أو `OTEL_EXPORTER_OTLP_ENDPOINT`	`"http://127.0.0.1:4318"`
مصادقة الخلفية القياس عن بعد	`otlp_headers` أو `OTEL_EXPORTER_OTLP_HEADERS`	غير مطلوب بشكل افتراضي

معلومات: إذا لم يتم توفير otlp_endpoint أو OTEL_EXPORTER_OTLP_ENDPOINT ، فسيقوم SDK OpenLIT بإخراج آثار مباشرة إلى وحدة التحكم الخاصة بك ، والتي يوصى بها أثناء مرحلة التطوير.

مثال

تهيئة باستخدام وسيطات الوظائف

أضف السطرين التاليين إلى رمز التطبيق الخاص بك:

 import openlit

openlit . init (
  otlp_endpoint = "http://127.0.0.1:4318" , 
)

تهيئة باستخدام متغيرات البيئة

أضف السطرين التاليين إلى رمز التطبيق الخاص بك:

 import openlit

openlit . init ()

ثم ، قم بتكوين نقطة نهاية OTLP الخاصة بك باستخدام متغير البيئة:

 export OTEL_EXPORTER_OTLP_ENDPOINT = " http://127.0.0.1:4318 "

الخطوة 4: تصور وتحسين!

مع وجود بيانات قابلية الملاحظة التي يتم جمعها الآن وإرسالها إلى OpenLit ، فإن الخطوة التالية هي تصور هذه البيانات وتحليلها للحصول على نظرة ثاقبة على أداء تطبيق الذكاء الاصطناعي وسلوكك وتحديد مجالات التحسين.

ما عليك سوى التوجه إلى OpenLit على 127.0.0.1:3000 على متصفحك لبدء الاستكشاف. يمكنك تسجيل الدخول باستخدام بيانات الاعتماد الافتراضية

البريد الإلكتروني : [email protected]
كلمة المرور : openlituser

خريطة الطريق

نحن نكرس لتحسين مستمر OpenLit. إليك نظرة على ما تم إنجازه وما هو في الأفق:

ميزة	حالة
قابلية التواصل بين الأوبنتيلومترسيات SDK للتتبع والمقاييس	✅ الانتهاء
مراقبة وحدة معالجة الرسومات OpentElemetry	✅ الانتهاء
استثناءات ومراقبة الخطأ	✅ الانتهاء
محور موجه لإدارة ومطالبات الإصدار	✅ الانتهاء
Openground لاختبار ومقارنة LLMs	✅ الانتهاء
قبو للإدارة المركزية لمفاتيح وأسرار API LLM	✅ الانتهاء
تتبع التكلفة للموديلات المخصصة	✅ الانتهاء
تنفيذ الدرابزين في الوقت الحقيقي	✅ الانتهاء
تقييم البرنامج لاستجابة LLM	✅ الانتهاء
مقاييس التقييم التلقائي على أساس الاستخدام	قريباً
ردود الفعل البشرية لأحداث LLM	قريباً
توليد مجموعات البيانات بناءً على أحداث LLM	قريباً
ابحث عن آثار	قريباً