このレポは、Pyton 3.9を使用して、Pytorchを使用したシーケンス分類モデルの理解と実装をカバーするチュートリアルが含まれています。具体的には、映画のレビューから感情を予測するためにモデルを訓練します。
説明のいずれかに間違いを見つけたり、同意しない場合は、問題を提出することをためらわないでください。ポジティブまたはネガティブのフィードバックを歓迎します!
必要な依存関係をインストールしてください: pip install -r requirements.txt --upgrade 。
1-単語のニューラルバッグ
このチュートリアルでは、Pytorchを使用したシーケンス分類プロジェクトのワークフローについて説明します。シンプルだが効果的なニューラルバッグオブワードモデルを使用して、シーケンス分類の基本と、データの読み込み/前処理を簡素化するためにデータセット/トーチテキストの由来を使用する方法について説明します。
2-再発性ニューラルネットワーク
これで、基本的なシーケンス分類ワークフローがカバーされているため、このチュートリアルは、再発性ニューラルネットワーク(RNN)モデルに切り替えることにより、結果の改善に焦点を当てます。 RNNSの背後にある理論をカバーし、RNNの最も一般的なバリアントの1つである長期記憶(LSTM)RNNの実装を調べます。
3-畳み込みニューラルネットワーク
次に、感情分析のために畳み込みニューラルネットワーク(CNNS)をカバーします。このモデルは、文の分類のための畳み込みニューラルネットワークの実装となります。
4-トランス
最後に、トランスライブラリを使用して事前に訓練されたトランスモデル、特にこのペーパーのBERTモデルをロードし、シーケンス分類に使用する方法を示します。
これらのチュートリアルの以前のバージョンは、利用できなくなったTorchTextライブラリの機能を使用しました。これらはレガシーディレクトリに保存されます。
これらのチュートリアルを作成している間、私が見たものをいくつか紹介します。その一部は古くなっている可能性があります。