transformers stuff

트랜스포머 스터프

이 저장소에는 변압기 모델의 다양한 측면에 대한 코드, 스크립트 및 노트북이 포함되어 있습니다. 구현은 pytorch를 사용합니다.

• GPT_Transformer.ipynb 에는 트랜스포머 징후의 상세한 연습이 포함되어 있으며 그 과정에서 핵심 개념을 설명합니다.
• GPT_Language_Model.ipynb 데이터의 관련 사전 처리가 포함 된 wikipedia 데이터를 사용하여 처음부터 언어 모델을 구축하고 훈련시킵니다.