openllmetry js
0.11.4
قابلية الملاحظة مفتوحة المصدر لتطبيق LLM الخاص بك
؟ جديد : اتفاقياتنا الدلالية أصبحت الآن جزءًا من قياس الأوبنتيل! انضم إلى المناقشة وساعدنا في تشكيل مستقبل LLM.
OpenLlmetry-JS هي مجموعة من الامتدادات المصممة فوق قياس الأوبنتيل التي تمنحك إمكانية ملاحظتها كاملة على تطبيق LLM الخاص بك. نظرًا لأنه يستخدم قياس الأوبنتيلي تحت الغطاء ، يمكن توصيله بحلول الملاحظة الحالية - DataDog و Honeycomb وغيرها.
تم بناؤه وصيانته بواسطة Traceloop بموجب ترخيص Apache 2.0.
يحتوي REPO على أجهزة قياس أوبرينميات قياسية لمقدمي LLM و DBS المتجهات ، بالإضافة إلى Traceloop SDK التي تجعل من السهل البدء مع OpenLlmetry-JS ، مع استمرار إخراج بيانات قياس الأوبنتيل القياسية التي يمكن توصيلها بمكدس الملاحظة. إذا كان لديك بالفعل أداة قياس الأوبنتيل ، فيمكنك فقط إضافة أي من أجهزةنا مباشرة.
أسهل طريقة للبدء هي استخدام SDK لدينا. للحصول على دليل كامل ، انتقل إلى مستنداتنا.
تثبيت SDK:
npm install --save @traceloop/node-server-sdkثم ، لبدء تشغيل الكود الخاص بك ، ما عليك سوى إضافة هذين الخطين إلى الكود الخاص بك:
import * as traceloop from "@traceloop/node-server-sdk" ;
traceloop . initialize ( ) ; تأكد من import SDK قبل استيراد أي وحدة LLM.
هذا كل شيء. أنت الآن تتبع التعليمات البرمجية الخاصة بك مع OpenLlmetry-JS! إذا كنت تقوم بتشغيل هذا محليًا ، فقد ترغب في تعطيل إرسال الدُفعات ، حتى تتمكن من رؤية الآثار على الفور:
traceloop . initialize ( { disableBatch : true } ) ;الآن ، تحتاج إلى تحديد مكان تصدير الآثار إليها.
انظر مستنداتنا للحصول على تعليمات حول الاتصال بكل واحد.
يمكن لـ OpenLlmetry -JS أداة كل شيء على الأدوات التي تتوافق مع الأدوات - لذا فإن أشياء مثل DB ومكالمات API والمزيد. علاوة على ذلك ، قمنا ببناء مجموعة من الامتدادات المخصصة التي تقوم بأشياء مثل مكالماتك إلى Openai أو Anthropic ، أو Vector DB مثل Pinecone أو Chroma أو Weaviate.
سواء كانت كبيرة أو صغيرة ، فإننا نحب المساهمات - تحقق من دليلنا لمعرفة كيفية البدء.
لست متأكدا من أين تبدأ؟ أنت تستطيع:
