edge aio in a box
1.0.0
يعد مشروع "AIO with AI In-A-Box" عبارة عن مجموعة أدوات شاملة مصممة لمساعدة المستخدمين على نشر حلول AI و Machined Learning على الحافة بكفاءة خاصة مع عمليات Azure IoT-AIO. يتضمن "AIO with ai in-a-box" إطارًا معياريًا يمكّن دمج وإدارة نماذج الذكاء الاصطناعى على أجهزة الحافة (Hybride) مع AIO ، وسد الفجوة بين نماذج الذكاء الاصطناعي المستندة إلى مجموعة النظراء وأنظمة OT المحلية. مع التركيز على البيئات المنخفضة للتكنولوجيا ، يتيح ذلك للمطورين إنشاء ونشر نماذج التعلم الآلي مباشرة إلى أجهزة حافة الهجينة مع AIO. هذا يجعل من المفيد للغاية بالنسبة للصناعات التي تتطلع إلى دمج الذكاء الاصطناعي في قاع المتجر ، مما يوفر قدرات الذكاء الاصطناعي القابلة للتطوير والقابلة للتكيف والآمنة في البيئات الموزعة.
يحتوي هذا المسرع على عمليات Azure IoT قاعدة Azure/Kubernetes/Azure Openai/Azure ML التي تتيح:
Azure ML to Azure IoT Operations - تزامن للموارد لدورة حياة طراز AI بأكملها مع عمليات AIO (Azure IoT التي تمكّنها ARC) ، بما في ذلك الإنشاء والنشر والتعبئة المناسبة من خلال Azure ML و Azure IOT و ARC. يتضمن ذلك الاستفادة من المكونات الرئيسية مثل عمليات Azure IoT ، مجموعة Kubernetes التي تدعم ARC ، Azure Arc ، Azure ML ، Azure ML Extension و Azure ML CLI V2.
عمليات Azure IoT مع Azure Open AI - نشر وتمكين الدماغي لإظهار كيفية الاستفادة من Azure Openai ومعالجة اللغة الطبيعية (NLP) داخل بيئة عمليات IoT Azure. بالإضافة إلى ذلك ، قمنا بتضمين نشر تطبيق Leathered Leathered Love لعرض كيفية الاستفادة من Azure Openai من حاوية/جراب يعمل على مجموعة Kubernetes.
عمليات Azure IoT مع SLMS (RAG) على نشر الحافة وتمكين نماذج اللغة الصغيرة (SLMS) على الحافة داخل بيئة عمليات IoT Azure. يدمج هذا الإعداد SLMs لتمكين الجيل المتمثل في الاسترجاع (RAG) على الحافة ، مما يؤدي إلى تحسين الأداء وتقليل الاعتماد على الموارد السحابية لنشر عمليات IoT أكثر كفاءة واستجابة.
توفر عمليات Azure IoT عمليات Azure IoT حلًا قويًا وقابل للتطوير مصممًا لاحتياجات الشركات المصنعة الحديثة من خلال الجمع بين إمكانات المعالجة المحلية مع الحوسبة الهجينة الحافة. يتيح هذا النهج معالجة البيانات في الوقت الفعلي مباشرة على أرضية المصنع ، مما يسهل اتخاذ القرارات بشكل أسرع والقائم على البيانات حيث يلزم الأمر أكثر. من خلال الدعم المدمج للمعايير الصناعية الأساسية مثل OPC UA و MQTT ، تتكامل عمليات Azure IoT بسلاسة مع أنظمة ومعدات التصنيع المتنوعة ، مما يضمن التوافق عبر بيئات تشغيلية مختلفة. تتيح قابلية التوسع للشركات التكيف بسهولة ، سواء كانت إدارة منشأة واحدة أو شبكة واسعة من المواقع.
يؤدي صعود الحافة AI إلى تضخيم عمليات Azure IoT ، مما يجعل نماذج AI المتقدمة ونماذج التعلم الآلي أقرب إلى مصدر البيانات. يتيح هذا التحول للمستخدمين تسخير الذكاء الاصطناعى مباشرة على الحافة ، مما يتيح رؤى في الوقت الفعلي ، وزيادة الكفاءة التشغيلية ، وتقليل الكمون من خلال معالجة البيانات محليًا بدلاً من الاعتماد على الموارد المستندة إلى السحابة وحدها.
من خلال الجمع بين عمليات Azure IoT و AI Edge و AI (Gen AI) ، يمكن للمستخدمين فتح رؤى أعمق في اتجاهات الإنتاج ، مما يتيح إدارة الجودة الاستباقية والتحليلات المتقدمة. يبسط النظام الإيكولوجي لـ Azure نشر نماذج الذكاء الاصطناعي عبر أجهزة الحافة ومجموعات خدمة Azure Kubernetes (AKs) ، مما يتيح تدفقات سير العمل القابلة للتطوير وعالية الأداء و ML.
لا يبرز هذا الحل النشر فحسب ، بل يسلط الضوء أيضًا على التكامل السلس لعمليات Azure ML و Azure Openai و Azure IoT. إنه يوفر نظرة عامة واضحة على كيفية ربط هذه الخدمات ، مما يبسط فهم الموارد والهندسة المعمارية اللازمة لبناء أعباء العمل التي تعمل بالنيابة. إن جعل إمكانيات الذكاء الاصطناعى أقرب إلى الحافة يمكّن المستخدمين من نشر نماذج التعلم الآلي بثقة وابتكارات Gen AI ، ووضعها في احتضان حافة الذكاء الاصطناعى مع مزيد من الرشاقة والكفاءة والضمان
فيما يلي أمثلة لحالات الاستخدام المحتملة التي يمكن بناؤها على إطار الحلول هذا. هدفنا هو مساعدتك في تحقيق هذه التطبيقات في العالم الحقيقي بفعالية وكفاءة.
يعزز الحل مراقبة الجودة في التصنيع من خلال تمكين مراقبة معلمات الإنتاج باستخدام بيانات المستشعر أو تقنية الكاميرا. من خلال النماذج المتقدمة من الذكاء الاصطناعي ونماذج التعلم الآلي المدربين في Microoft Azure ، يمكن أن يكتشف هذا الحل الحالات الشاذة ، مثل العيوب أو الانحرافات عن معايير الجودة ، في وقت مبكر من عملية الإنتاج. يقلل هذا النهج الاستباقي من خطر الوصول إلى المنتجات المعيبة للعملاء ، وبالتالي تقليل النفايات وإعادة صياغة.
يمكن أن يمكّن الشركات المصنعة من تنفيذ استراتيجيات فعالة لإدارة الطاقة من خلال توفير مراقبة استهلاك الطاقة عبر خطوط الإنتاج والمرافق. من خلال التحليلات المتقدمة ، يمكن أن تحدد عدم كفاءة الطاقة ، مما يتيح تنفيذ الإجراءات التصحيحية التي تقلل من النفايات وتحسين استخدام الطاقة. لا تؤدي هذه الأفكار إلى خفض التكاليف التشغيلية فحسب ، بل تدعم أيضًا مبادرات ESG (البيئية والاجتماعية والحوكمة) من خلال مساعدة الشركات المصنعة على تقليل بصمة الكربون الخاصة بهم.
يمكن لمصنع المصنع على الحافة الاستفادة من معالجة البيانات في المصنع ، مما يوفر للمشغلين والمديرين رؤى قابلة للتنفيذ وتنبيهات وتوصيات من خلال لوحة معلومات مركزية. يمكن لهذا المساعد الرقمي أن يقترح بشكل استباقي تحسينات العملية ، وتسليط الضوء على المشكلات المحتملة ، وتوجيه المشغلين من خلال المهام المعقدة. من خلال التحليلات التي تحركها AI وواجهات اللغة الطبيعية ، يحسن Copilot الوعي الظرفي ويمكّن موظفي المصنع من اتخاذ قرارات تعتمد على البيانات بسرعة. ينتج عن هذا التآزر عمليات أكثر سلاسة ، وتقليل وقت التوقف ، وتعزيز الإنتاجية عبر خط الإنتاج. xfs
يعمل الحل الأساسي على جهاز ظاهري يعتمد على Ubuntu باستخدام K3S. بدلاً من ذلك ، يمكنك نشر هذا الحل لجهاز حافة هجينة مخصصة ، مما يسمح لنموذج التعلم الآلي بالعمل بالقرب من المعدات الخاصة بك.
ستقوم بإنشاء كل موارد Azure اللازمة
هدفها الأساسي هو إرشادك من خلال بناء وتدريب وتسجيل نموذج ، وإعداد نقطة نهاية Kubernetes ، ونشر النموذج المدرب على حاوية داخل مجموعة K3S الخاصة بك ، والتي تدعم بيئة عمليات Azure IoT.
سوف تستخدم دفتر الملاحظات التالي لتسهيل هذه العملية:
1-IMG-Classification Training.ipynb
بمجرد حصولك على النموذج الخاص بك ، يمكنك نشره على مجموعة AIO K3S الخاصة بك:
يرجى الرجوع إلى مستودع Genai الدماغي للرجوع إليه واستكشاف الأخطاء وإصلاحها
هناك حاجة إلى الخطوات التالية لتثبيت هذا الحل:
هناك حاجة إلى المتطلبات المسبقة التالية لنشر ناجح لهذا المعجل من جهاز الكمبيوتر الخاص بك.
اشتراك أزور.
تثبيت أحدث إصدار من Azure CLI
تثبيت مطور Azure CLI
قم بتمكين مقدمي الموارد التالية على اشتراكك:
(سيمكن القالب جميع مقدمي الموارد هؤلاء ولكن من الجيد دائمًا التحقق من النشر قبل وبعد ما بعد.)
تثبيت أحدث إصدار من العضلة ذات الرأسين
كن على دراية بأن القالب سوف يستفيد من امتدادات Azure CLI التالية:
قم بتثبيت أحدث إصدار من PowerShell (7.x): تحقق من الإصدار الحالي باستخدام $ psversiontable ثم قم بتثبيت الأحدث عبر "Winget Install Microsoft.azd"
قم بتثبيت الكود على جهازك
حقوق المالكين على اشتراك Microsoft Azure . تأكد من أن المستخدم أو مدير الخدمة الذي تستخدمه لنشر مسرعه لديه إمكانية الوصول إلى واجهة برمجة تطبيقات الرسم البياني في المستأجر المستهدف. هذا ضروري لأنك ستحتاج إلى:
(تحتاج أساسًا إلى نشر القالب مع مستخدم له خصوصات عالية)
الخطوة 1. استنساخ مستودع Edge-Aio-A-Box
الخطوة 2. قم بإنشاء موارد Azure (تم تعيين هوية مُجهة للمستخدم ، VNET ، Key Vault ، EventHub ، Ubuntu VM ، مساحة عمل Azure ML ، سجل الحاويات ، إلخ)
Sample screenshot of the resources that will be deployed:
الخطوة 2. SSH على Ubuntu VM وتنفيذ بعض أوامر KUBECTL لتصبح على دراية بالقرون المنشورة وتكويناتها داخل الكتلة. سيساعدك هذا النهج العملي على فهم البيئة التشغيلية والموارد التي تعمل في إعداد Kubernetes/AIO.
الخطوة 3. نموذج ML Bold في صورة Docker ونشره على نقطة نهاية الكتلة K3S الخاصة بك عبر امتداد Azure ML
الخطوة 4. دفع نموذج إلى سجل حاوية Azure
الخطوة 5. نشر النموذج على الحافة عبر امتداد Azure ML إلى مجموعة K3S/AIO
استنساخ هذا المستودع محليًا:
git clone https://github.com/Azure-Samples/edge-aio-in-a-boxقم بتسجيل الدخول إلى اشتراك Azure الخاص بك (كلاهما مطلوب):
azd auth login --use-device-code --tenant-id xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxaz login --use-device-code --tenant xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxنشر الموارد:
azd upستتم مطالبتك بخطة فنية ومنطقة ومعلمات إضافية:
adminPasswordOrKey - Pa $$ W0rd:)7:)7
adminUsername - ArcAdmin
arcK8sClusterName - aioxclusterYOURINITIALS
authenticationType - password
location - eastus
virtualMachineName - aiobxclustervmYOURINITIALS
virtualMachineSize - Standard_D16s_v4بمجرد نشر مواردك ، ستحتاج إلى القيام بما يلي للحصول على دفتر (أجهزة الكمبيوتر المحمولة) التي تعمل في Azure ML Studio وجراب kubernetes الخاص بك لرؤية تدفقات الحل:
عند تشغيل دفاتر الملاحظات في AML ، لن يكون لدى المستخدم ([email protected] على سبيل المثال) إذنًا لتغيير حساب التخزين أو إضافة بيانات إلى التخزين. يرجى التأكد من أن يتم تعيين كل من قارئ بيانات BLOB للتخزين وأدوار مساهم بيانات Blob Storage .
قم بتشغيل دفتر الملاحظات
اختبار محليا مع ساعي البريد
Object_id = $ (AZ AD SP Show-BC313C14-388C-4E7D-A58E-70017303E3B-QUERY ID -O TSV)
تحتاج إلى التأكد من حصولك على هذه القيمة من مستأجر يمكنك الوصول إليه للوصول إلى واجهة برمجة تطبيقات الرسم البياني في المستأجر.
https://learn.microsoft.com/en-us/azure/azure-arc/kubernetes/custom-locations
https://learn.microsoft.com/en-us/cli/azure/ad/sp؟view=azure-cli-latest
عندما تقوم بإعادة نشر الحل بأكمله تحت نفس الاسم - قد يستغرق الأمر حتى سبعة أيام لإزالة KeyVault. استخدم اسم بيئة مختلف للنشر إذا كنت بحاجة إلى إعادة النشر بشكل أسرع.
ترقيات إصدار دورة الحياة (Health و Kubernetes إصدار إصدار أو تحديثات أمان للعقد أو التحجيم وما إلى ذلك) من AKs أو ARC Cluster Cluster هي مسؤولية العميل.
تتوفر جميع ميزات المعاينة على أساس الخدمة الذاتية ، وتخضع للتغييرات في التصميم وتغييرات API. يتم توفير المعاينات "كما هي" و "كما هو متاح" ، ويتم استبعادها من اتفاقيات مستوى الخدمة والضمان المحدود.
نحن نبحث دائمًا عن ملاحظات حول تجاربنا الحالية وما يجب أن نعمل عليه بعد ذلك. إذا كان هناك أي شيء ترغب في تحديد أولوياته ، فلا تتردد في اقتراح ذلك عبر متتبع مشكلة GitHub. يمكنك تقديم تقرير الأخطاء أو اقتراح ميزة أو المشاركة في المناقشات.
يرحب هذا المشروع بالمساهمات والاقتراحات. تطلب منك معظم المساهمات الموافقة على اتفاقية ترخيص المساهم (CLA) مع إعلان أن لديك الحق في ذلك في الواقع ، ويفعلنا في الواقع حقوق استخدام مساهمتك. لمزيد من التفاصيل ، تفضل بزيارة https://cla.opensource.microsoft.com
عند إرسال طلب سحب ، سيحدد CLA Bot تلقائيًا ما إذا كنت بحاجة إلى توفير CLA وتزيين العلاقات العامة بشكل مناسب (على سبيل المثال ، فحص الحالة ، التعليق). ببساطة اتبع الإرشادات التي يقدمها الروبوت. ستحتاج فقط إلى القيام بذلك مرة واحدة عبر جميع عمليات إعادة الشراء باستخدام CLA لدينا.
اعتمد هذا المشروع رمز سلوك المصدر المفتوح Microsoft. لمزيد من المعلومات ، راجع مدونة الشهادة الأسئلة الشائعة أو الاتصال بـ [email protected] مع أي أسئلة أو تعليقات إضافية.
تسليط الضوء على جهات الاتصال الرئيسية للمشروع والاعتراف بالمساهمين. يمكنك تكييف الهيكل من AI-in-a-box:
| اتصال | معرف جيثب | بريد إلكتروني |
|---|---|---|
| أندريس باديلا | ANDRESPAD | [email protected] |
| فيكتور سانتانا | Welasco | [email protected] |
| كريس آيرز | codebytes | [email protected] |
| Neeraj Jhaveri | neerajjhaveri | [email protected] |
| نبيل محمد | nabeelmsft | [email protected] |
| علي سانجابي | asanjabi | [email protected] |
| جواو كارلوس سانتوس | @jomacedo | [email protected] |
| جورجينا سيغنز | georgesiggins | [email protected] |
| Remco Ploeg | @Rploeg | [email protected] |
| أرماندو بلانكو غارسيا | armandoBlanco | [email protected] |
| تشنغ تشن | @chencheng368 | [email protected] |
قد يحتوي هذا المشروع على علامات تجارية أو شعارات للمشاريع أو المنتجات أو الخدمات. يخضع الاستخدام المعتمد للعلامات التجارية أو الشعارات Microsoft ويجب أن يتبعوا إرشادات Microsoft التجارية والعلامة التجارية. يجب ألا يسبب استخدام العلامات التجارية Microsoft أو الشعارات في إصدارات معدلة من هذا المشروع الارتباك أو يعني رعاية Microsoft. يخضع أي استخدام للعلامات التجارية أو الشعارات من طرف ثالث لسياسات تلك الطرف الثالث.
