Dieses Repo enthält Tutorials, die das Verständnis und die Implementierung von Sequenzklassifizierungsmodellen unter Verwendung von Pytorch mit Python 3.9 abdecken. Insbesondere trainieren wir Modelle, um das Gefühl von Filmkritiken vorherzusagen.
Wenn Sie Fehler finden oder mit einer der Erklärungen nicht einverstanden sind, zögern Sie bitte nicht, ein Problem einzureichen. Ich begrüße alle Feedback, positiv oder negativ!
Installieren Sie die erforderlichen Abhängigkeiten mit: pip install -r requirements.txt --upgrade .
1 - Neuronale Wörterbeutel
Dieses Tutorial deckt den Workflow eines Sequenzklassifizierungsprojekts mit Pytorch ab. Wir werden die Grundlagen der Sequenzklassifizierung unter Verwendung eines einfachen, aber effektiven Modells der neuronalen Wörter und der Verwendung der Datensätze/Torchtext-Libies zur Vereinfachung der Datenbelastung/Vorverarbeitung mit den Datensätzen/Torchtext-Libies behandeln.
2 - wiederkehrende neuronale Netze
Jetzt haben wir den Workflow für die grundlegende Sequenzklassifizierung. Dieses Tutorial wird sich auf die Verbesserung unserer Ergebnisse konzentrieren, indem wir auf ein rezidivierendes NNN (RNN) -Modell (RNN NEURNE NETRORENT NETWEISE) wechseln. Wir werden die Theorie hinter RNNs behandeln und eine Implementierung des Long-T-Term-Gedächtnisses (LSTM) RNN, einer der häufigsten Varianten von RNN, ansehen.
3 - Faltungsnetzwerke mit Faltungsnetzwerken
Als nächstes werden wir uns für die Analyse der Stimmungsanalyse mit Faltungsnetzwerken (CNNs) abdecken. Dieses Modell wird eine Implementierung von Faltungsnetzwerken für die Satzklassifizierung sein.
4 - Transformatoren
Schließlich zeigen wir, wie Sie mit der Transformers Library ein vorgebildetes Transformatormodell laden, insbesondere das Bert-Modell aus diesem Papier, und es für die Sequenzklassifizierung verwenden.
Frühere Versionen dieser Tutorials verwendeten Funktionen aus der Torchtext -Bibliothek, die nicht mehr verfügbar sind. Diese werden im Legacy -Verzeichnis aufbewahrt.
Hier sind einige Dinge, die ich mir beim Erstellen dieser Tutorials angesehen habe. Einige davon können veraltet sein.