HeartGPT
1.0.0
محولات قابلة للتفسير مسبقًا لبيانات السلاسل الزمنية: ارتباط بالورقة
في هذا الريبو ، هناك ملفات نموذجية مدربة ، سواء بالنسبة للموديلات التي تم تدريبها مسبقًا ECGPT و PPGPT ، والموديلات التي تم ضبطها بشكل جيد للاكتشاف. هناك أيضًا GUIs مصممة لتوليد وتفسير وتنفيذ النماذج التي تم ضبطها.
في هذا العمل ، نقوم بتطبيق إطار المحول المسبق قبل التدريب (GPT) على بيانات السلسلة الزمنية للقلب الدورية لإنشاء نموذجين القلب للأغراض العامة ، وهما PPG-PT و ECG-PT. النماذج قادرة على ضبطها للعديد من المهام المختلفة المتعلقة بالقلب مثل فحص Arrythmias. تتمثل أحد الأدوات الكبيرة لهذا العمل في إظهار أن النماذج التي تم تدريبها مسبقًا يمكن تفسيرها بالكامل ، وأن هذا التفسير ينقل مهام ضبطها. المحولات التي تم تدريبها مسبقًا قابلة للتفسير بالطرق التالية -
تُظهر خرائط الانتباه الإجمالية أن النموذج يركز على نقاط مماثلة في دورات القلب السابقة من أجل تقديم تنبؤات وتوسيع انتباهه تدريجياً في الطبقات الأعمق: 
تشكل الرموز ذات القيمة نفسها (ما يعادل السلاسل الزمنية للماء ) التي تحدث في نقاط مختلفة مميزة في دورة ECG و PPG مجموعات منفصلة في مساحة عالية الأبعاد ، استنادًا إلى موضعها في دورة القلب ، حيث يتم تحديثها مع سياق الرموز الأخرى عبر كتل المحولات. 
يستجيب رؤساء الانتباه الفردي لميزات محددة ذات صلة من الناحية الفسيولوجية ، مثل الشق dicrotic في PPG و P-Wave في ECG. 
استلهم هذا العمل من برنامج تعليمي تم إنشاؤه بواسطة Andrej Karpathy.
HEART_PT_GENERATE.PY هو برنامج نصي Python يتم تحميله في سياقات مثال إما ECG أو PPG ، ويستخدم النموذج المناسب لإنشاء خطوات زمنية مستقبلية.
توجد ملفات طراز Pytorch المدربة مسبقًا في مجلدات zip ( ECGPT_560K_ITERS و PPGPT_500K_ITERS ).
يتم توفير مثال على تعريف نموذج صقل دقيق في "heart_pt_finetune.py" ، إلى جانب كيفية تجميد طبقات مختلفة.
