HeartGPT
1.0.0
Transformer pra-terlatih yang dapat ditafsirkan untuk data seri waktu jantung: tautan ke makalah
Dalam repo ini, ada file model terlatih, baik untuk model terlatih ECGPT dan PPGPT, dan model disesuaikan untuk arrythmias dan deteksi beat. Ada juga GUI yang dirancang untuk generasi, interpretabilitas, dan untuk implementasi model yang disempurnakan.
Dalam karya ini, kami menerapkan kerangka kerja transformator pra-terlatih (GPT) generatif untuk data seri waktu jantung periodik untuk membuat dua model jantung tujuan umum pra-terlatih, yaitu PPG-PT dan EKG-PT. Model-model tersebut mampu disesuaikan untuk berbagai tugas terkait jantung seperti skrining untuk arrythmias. Enfasis besar dari karya ini adalah menunjukkan bahwa model yang sudah terlatih sepenuhnya dapat ditafsirkan, dan bahwa interpretabilitas ini dibawa ke tugas-tugas yang menyempurnakan. Transformer pra -terlatih dapat ditafsirkan dengan cara -cara berikut -
Peta perhatian agregat menunjukkan bahwa model ini berfokus pada titik -titik serupa dalam siklus jantung sebelumnya untuk membuat prediksi dan secara bertahap memperluas perhatiannya pada lapisan yang lebih dalam: 
Token dengan nilai yang sama (seri waktu yang setara dengan homonim ) yang terjadi pada titik yang berbeda dalam siklus EKG dan PPG membentuk kelompok terpisah dalam ruang dimensi tinggi, berdasarkan posisi mereka dalam siklus jantung, karena mereka diperbarui dengan konteks token lain melalui blok transformator. 
Kepala perhatian individu merespons fitur-fitur spesifik yang relevan secara fisiologis , seperti takik dikrotik di PPG dan gelombang-P di EKG. 
Karya ini terinspirasi oleh tutorial yang dibuat oleh Andrej Karpathy.
Heart_pt_generate.py adalah skrip Python yang memuat dalam konteks konteks EKG atau PPG, dan menggunakan model yang sesuai untuk menghasilkan langkah waktu di masa depan.
File model Pytorch yang sudah terlatih ada di folder zip ( ECGPT_560K_ITERS dan PPGPT_500K_ITERS ).
Contoh definisi model penyempurnaan yang diadaptasi disediakan dalam "heart_pt_finetune.py" , bersama dengan cara membekukan lapisan yang berbeda.
