applied_nlp_demos

Applied_NLP_DEMOS à Pytorch

PNL moderne

1. Pretrain T5 v1.1: pré-trajet T5 sur le code de jeu de données C4. Ce code est extrêmement moins compliqué, plus lisible et plus vrai pour l'implémentation de Google, que les autres options disponibles grâce à HuggingFace. Par rapport au papier T5 1.1 qui rapporte 1,942 perte à 65 536 étapes, un seul RTX 4090 produit des résultats comparables sur l'ensemble de tests (2.08) en environ 18,5 heures de formation en utilisant ce code (voir l'image ci-dessous). La pré-entraînement sur votre propre ensemble de données est aussi simple que d'échanger l' Dataset existant avec le vôtre.

2. SEQ2SEQ (chatbot): Fine Ting Flan-T5 sur le code alpaca

3. SEQ2SEQ: Fine Ting Flan-T5 sur les données à l'aide du code Framework de jeu de données HuggingFace

Google / Flan-T5-Gar

 input sentence: Given a set of numbers, find the maximum value.
{10, 3, 25, 6, 16}
response: 25

input sentence: Convert from celsius to fahrenheit.
Temperature in Celsius: 15
response: Fahrenheit

input sentence: Arrange the given numbers in ascending order.
2, 4, 0, 8, 3
response: 0, 3, 4, 8

input sentence: What is the capital of France?
response: paris

input sentence: Name two types of desert biomes.
response: sahara

Google / Flan-T5-Large: affinés sur l'alpaga

 input sentence: Given a set of numbers, find the maximum value.
{10, 3, 25, 6, 16}
response: 25

input sentence: Convert from celsius to fahrenheit.
Temperature in Celsius: 15
response: 77

input sentence: Arrange the given numbers in ascending order.
2, 4, 0, 8, 3
response: 0, 2, 3, 4, 8

input sentence: What is the capital of France?
response: Paris

input sentence: Name two types of desert biomes.
response: Desert biomes can be divided into two main types: arid and semi-arid. Arid deserts are characterized by high levels of deforestation, sparse vegetation, and limited water availability. Semi-desert deserts, on the other hand, are relatively dry deserts with little to no vegetation.

NLP hérité

Ce référentiel contient un traitement de données débutant et des algorithmes NLP à l'aide de pytorch et souvent en étreignant (Transformers) pour les modèles suivants:

1. Document: Réseaux d'attention hiérarchique Pytorch Implémentation: Code

2. Papier: Implémentation de Bert Pytorch: Code

3. Ensemble Bert-CNN. Implémentation de Pytorch: code

4. Papier: Implémentation de Pytorch CNN au niveau du caractère: Code

5. Document: Implémentation de Distilbert Pytorch: Code

6. Distilgpt-2. Implémentation de Pytorch: code

7. Document: Réseaux de neurones convolutionnels pour la classification des phrases Implémentation de Pytorch: Code

8. Document: Implémentation Pytorch de classification T5: Code

9. Document: T5-Summarisation Pytorch Implémentation: Code

10. Construire un corpus: recherchez des fichiers texte. Code: code

11. Papier: Heinsein Routing TorchText Implémentation: Code

12. ENTITY ENCHEDDINGS ET CHARGEMENT LAZY. Code: code

13. Similitude sémantique. Code: code

14. Squad 2.0 Bert incorpore les émissions de pytorch. Code: code

15. SST-5 Bert incorpore les émissions dans Pytorch. Code: code

Crédits: Le groupe Hedwig a contribué à m'aider à apprendre beaucoup de ces modèles.

Les sorties de radoue R plus belles peuvent être trouvées ici: http://seekinginference.com/nlp/