HeartGPT
1.0.0
Interpretierbare vorgebildete Transformatoren für Herz-Serie-Daten: Link zum Papier
In diesem Repo gibt es geschulte Modelldateien, sowohl für das EKGPT und die PPGPT-Modelle vorhandenen Modellen als auch die Modelle, die für Arrythmien und Beat-Erkennung fein abgestimmt sind. Es gibt auch GUIs für Generation, Interpretierbarkeit und für die Implementierung der fein abgestimmten Modelle.
In dieser Arbeit wenden wir den generativen Rahmen für den generativen Vorausgebildeten (GPT) auf periodische Herz-Time-Serie-Daten an, um zwei vorgebrachte Generalzweck-Herzmodelle zu erstellen, nämlich PPG-PT und EKG-PT. Die Modelle können für viele verschiedene kardiale Aufgaben wie das Screening auf Arrythmien fein abgestimmt werden. Eine große Enphase dieser Arbeit besteht darin, zu zeigen, dass die vorgebauten Modelle vollständig interpretierbar sind und dass diese Interpretierbarkeit auf Feinabstimmungsaufgaben übergeht. Die vorgebauten Transformatoren sind auf folgende Weise interpretierbar -
Aggregate Aufmerksamkeitskarten zeigen, dass sich das Modell auf ähnliche Punkte in früheren Herzzyklen konzentriert, um Vorhersagen zu treffen und seine Aufmerksamkeit in tieferen Schichten allmählich zu erweitern: 
Token mit dem gleichen Wert (das Zeitreihenäquivalent eines Homonyms ), die an verschiedenen Punkten im EKG- und PPG-Zyklus auftreten, bilden separate Cluster im hohen dimensionalen Raum, basierend auf ihrer Position im Herzzyklus, da sie mit dem Kontext anderer Token über die Transformer-Blöcke aktualisiert werden. 
Individuelle Aufmerksamkeitsköpfe reagieren auf spezifische physiologisch relevante Merkmale wie die dikrotische Kerbe in PPG und die P-Wave in EKG. 
Diese Arbeit wurde von einem Tutorial inspiriert, das von Andrej Karpathy erstellt wurde.
Heart_pt_generate.py ist ein Python -Skript, das in Beispielkontexten von EKG oder PPG geladen wird und das entsprechende Modell verwendet, um zukünftige Zeitschritte zu erzeugen.
Die vorgeborenen Pytorch-Modelldateien befinden sich in ZIP-Ordnern ( ECGPT_560K_ITERS und PPGPT_500K_ITER ).
Ein Beispiel für die Definition der Feinabstimmungsmodells finden Sie in "Heart_pt_finetune.py" sowie wie man verschiedene Schichten einfriert.
