transformers stuff

変圧器の頑丈

このリポジトリには、トランスモデルのさまざまな側面に関するコード、スクリプト、ノートブックが含まれています。実装ではPytorchを使用します。

• GPT_Transformer.ipynbには、変圧器のインプレメナテーションの詳細なウォークスルーが含まれ、途中でコアの概念を説明します。
• GPT_Language_Model.ipynb 、 wikipediaデータを使用して、データの関連する前処理が含まれているWikipediaデータを使用して、ゼロから言語モデルを構築およびトレーニングします。