applied_nlp_demos

applied_nlp_demos in pytorch

Moderne NLP

1. Pretrain T5 V1.1: Pre-Train T5 im C4-Datensatzcode. Dieser Code ist außerordentlich weniger kompliziert, lesbarer und wahrer für die Implementierung von Google als andere verfügbare Optionen dank Huggingface. Im Vergleich zu dem Papier T5 1.1, in dem 1,942 Verlust bei 65.536 Schritten angegeben sind, liefert ein einzelner RTX 4090 in ungefähr 18,5 Stunden Training mit diesem Code vergleichbare Ergebnisse (siehe Bild unten). Die Vorbereitung in Ihrem eigenen Datensatz ist so einfach wie das Austausch des vorhandenen Dataset mit Ihrem eigenen auszutauschen.

2. SEQ2SEQ (Chatbot): Fine Tune Flan-T5 auf Alpaka-Code

3. SEQ2SEQ: Fine Tune Flan-T5 auf Daten mithilfe von Huggingface-Dataset-Framework-Code

Google/Flan-T5-Large

 input sentence: Given a set of numbers, find the maximum value.
{10, 3, 25, 6, 16}
response: 25

input sentence: Convert from celsius to fahrenheit.
Temperature in Celsius: 15
response: Fahrenheit

input sentence: Arrange the given numbers in ascending order.
2, 4, 0, 8, 3
response: 0, 3, 4, 8

input sentence: What is the capital of France?
response: paris

input sentence: Name two types of desert biomes.
response: sahara

Google/Flan-T5-Large: Fein abgestimmt auf Alpaka

 input sentence: Given a set of numbers, find the maximum value.
{10, 3, 25, 6, 16}
response: 25

input sentence: Convert from celsius to fahrenheit.
Temperature in Celsius: 15
response: 77

input sentence: Arrange the given numbers in ascending order.
2, 4, 0, 8, 3
response: 0, 2, 3, 4, 8

input sentence: What is the capital of France?
response: Paris

input sentence: Name two types of desert biomes.
response: Desert biomes can be divided into two main types: arid and semi-arid. Arid deserts are characterized by high levels of deforestation, sparse vegetation, and limited water availability. Semi-desert deserts, on the other hand, are relatively dry deserts with little to no vegetation.

Legacy NLP

Dieses Repository enthält Start-to-Finish-Datenverarbeitung und NLP-Algorithmen unter Verwendung von Pytorch und häufigem Huggingface (Transformatoren) für die folgenden Modelle:

1. Papier: Hierarchische Aufmerksamkeitsnetzwerke Pytorch Implementierung: Code

2. Papier: Bert Pytorch Implementierung: Code

3. Bert-CNN-Ensemble. Pytorch -Implementierung: Code

4. Papier: CNN Pytorch-Implementierung auf Charakterebene: Code

5. Papier: Distilbert Pytorch Implementierung: Code

6. DISTILGPT-2. Pytorch -Implementierung: Code

7. Papier: Faltungsnetzwerke für die Satzklassifizierung Pytorch -Implementierung: Code

8. Papier: T5-Klassifizierung Pytorch Implementierung: Code

9. Papier: T5-Summarization Pytorch Implementierung: Code

10. Erstellen eines Korpus: Suchen Sie Textdateien. Code: Code

11. Papier: Heinsein Routing Torchtext Implementierung: Code

12. Entität Einbettung und faules Laden. Code: Code

13. Semantische Ähnlichkeit. Code: Code

14. Squad 2.0 Bert Einbettungsemissionen in Pytorch. Code: Code

15. SST-5 Bert-Einbettungsemissionen in Pytorch. Code: Code

Credits: Die Hedwig -Gruppe hat maßgeblich dazu beigetragen, viele dieser Modelle zu lernen.

Hier finden Sie hier eine schönere R-Markdown-Ausgänge: http://seekinginference.com/nlp/