HeartGPT
1.0.0
심장 시계열 데이터를위한 해석 가능한 미리 훈련 된 변압기 : 종이 링크
이 repo에는 미리 훈련 된 모델 ECGPT 및 PPGPT에 대한 훈련 된 모델 파일과 Arrythmias 및 Beat Detection을 위해 미세 조정 된 모델이 있습니다. 세대, 해석 가능성 및 미세 조정 모델의 구현을 위해 설계된 GUI도 있습니다.
이 작업에서 우리는 생성 사전 훈련 된 변압기 (GPT) 프레임 워크를 주기적 심장 시계열 데이터에 적용하여 PPG-PT 및 ECG-PT의 두 가지 미리 훈련 된 범용 심장 모델을 생성합니다. 이 모델은 Arrythmias 스크리닝과 같은 다양한 심장 관련 작업에 대해 미세 조정할 수 있습니다. 이 작업의 큰 열망은 미리 훈련 된 모델이 완전히 해석 될 수 있으며이 해석 성이 미세 조정 작업으로 전달된다는 것을 보여줍니다. 미리 훈련 된 변압기는 다음과 같은 방식으로 해석 할 수 있습니다.
집계주의 맵은 이 모델이 예측을 만들기 위해 이전 심장주기에서 유사한 지점에 초점을 맞추고 더 깊은 층에서 점차적으로주의를 넓히는 것을 보여줍니다. 
ECG 및 PPG 사이클에서 다른 별개의 지점에서 발생하는 동일한 값 (동의와 동일 )을 가진 토큰은 변압기 블록을 통해 다른 토큰의 컨텍스트로 업데이트되므로 심장주기에서의 위치를 기반으로 높은 차원 공간에서 별도의 클러스터를 형성합니다. 
개별주의 헤드는 PPG의 Dicrotic Notch 및 ECG의 P-Wave와 같은 특정 생리 학적 관련 특징에 반응합니다 . 
이 작품은 Andrej Karpathy가 만든 튜토리얼에서 영감을 얻었습니다.
Heart_pt_generate.py 는 ECG 또는 PPG의 예제 컨텍스트에로드되는 Python 스크립트이며 적절한 모델을 사용하여 향후 시간 단계를 생성합니다.
사전 훈련 된 Pytorch 모델 파일은 Zip 폴더 ( ECGPT_560K_ITERS 및 PPGPT_500K_ITERS )에 있습니다.
예제 적응 된 미세 조정 모델 정의는 "Heart_pt_finetune.py" 에 다른 레이어를 동결하는 방법과 함께 제공됩니다.
