Natural Language Processing Specialization

Spécialisation du traitement du langage naturel

Le traitement du langage naturel (PNL) utilise des algorithmes pour comprendre et manipuler le langage humain. Cette technologie est l'un des domaines les plus largement appliqués de l'apprentissage automatique. Alors que l'IA continue de se développer, la demande de professionnels est également qualifiée pour créer des modèles qui analysent la parole et le langage, découvrent des modèles contextuels et produiront des informations à partir de texte et d'audio. Cette spécialisation vous permettra des techniques d'apprentissage en profondeur de pointe nécessaires pour construire des systèmes NLP de pointe. À la fin de cette spécialisation, vous serez prêt à concevoir des applications NLP qui effectuent une analyse de réponses et des sentiments, créent des outils pour traduire les langues et résumer du texte, et même créer des chatbots.

Cette spécialisation s'adresse aux étudiants en apprentissage automatique ou en intelligence artificielle ainsi qu'aux ingénieurs logiciels à la recherche d'une compréhension plus approfondie du fonctionnement des modèles PNL et de la façon de les appliquer. Les apprenants doivent avoir une connaissance pratique de l'apprentissage automatique, du python intermédiaire, y compris une expérience avec un cadre d'apprentissage en profondeur (par exemple, Tensorflow, Keras), ainsi que la maîtrise du calcul, de l'algèbre linéaire et des statistiques. Si vous souhaitez réprimer ces compétences, nous recommandons la spécialisation en profondeur, offerte par Deeplearning.ai et enseigné par Andrew Ng.

Cette spécialisation est conçue et enseignée par deux experts de la PNL, de l'apprentissage automatique et de l'apprentissage en profondeur. Younes Bensouda Mourri est un instructeur de l'IA à l'Université de Stanford qui a également aidé à construire la spécialisation en profondeur. Łukasz Kaiser est chercheur du personnel chez Google Brain et co-auteur de Tensorflow, des bibliothèques Tensor2tensor et Trax, et le papier transformateur.

Cours 1: Espaces de classification et vectoriels dans la PNL

Il s'agit du premier cours de la spécialisation du traitement du langage naturel.

Semaine 1: régression logistique pour l'analyse des sentiments des tweets

• Utilisez une méthode simple pour classer le sentiment positif ou négatif dans les tweets

Semaine 2: Bayes naïfs pour l'analyse des sentiments des tweets

• Utilisez un modèle plus avancé pour l'analyse des sentiments

Semaine 3: modèles d'espace vectoriel

• Utilisez des modèles d'espace vectoriel pour découvrir des relations entre les mots et utiliser l'analyse des composants principaux (PCA) pour réduire la dimensionnalité de l'espace vectoriel et visualiser ces relations

Semaine 4: Word Embeddings and Locality Sensitive Haching pour la traduction automatique

• Écrivez un simple algorithme de traduction de l'anglais à la française en utilisant des incorporations de mots pré-calculées et un hachage sensible à la localité pour relier les mots via la recherche approximative des voisins K-Dearest

Cours 2: Modèles probabilistes en PNL

Ceci est le deuxième cours de la spécialisation du traitement du langage naturel.

Semaine 1: Correct automatique en utilisant une distance minimale d'édition

• Créez un algorithme simple correct automatique en utilisant une distance de modification minimale et une programmation dynamique

Semaine 2: étiquetage d'une partie du discours (POS)

• Appliquez l'algorithme Viterbi pour le marquage POS, ce qui est important pour la linguistique informatique

Semaine 3: Modèles de langue N-gram

• Écrivez un meilleur algorithme automatique à l'aide d'un modèle N-gram (des modèles similaires sont utilisés pour la traduction, la détermination de l'auteur d'un texte et la reconnaissance vocale)

Semaine 4: Word2Vec et descente de gradient stochastique

• Écrivez votre propre modèle Word2Vec qui utilise un réseau de neurones pour calculer les incorporations de mots à l'aide d'un modèle de sac de mots continu

Cours 3: Modèles de séquence en PNL

Il s'agit du troisième cours de la spécialisation du traitement du langage naturel.

Semaine 1: Sentiment avec des filets neuronaux

• Former un réseau neuronal avec des incorporations de mots à gants pour effectuer une analyse des sentiments des tweets

Semaine 2: Modèles de génération de langue

• Générer du texte de shakespeare synthétique à l'aide d'un modèle de langage d'unité récurrente (GRU) fermée (GRU)

Semaine 3: Reconnaissance des entités nommées (NER)

• Former un réseau de neurones récurrents pour effectuer NER en utilisant des LSTM avec des couches linéaires

Semaine 4: réseaux siamois

• Utilisez des modèles LSTM dits «Siamois» pour comparer les questions dans un corpus et identifier ceux qui sont formulés différemment mais qui ont la même signification

Cours 4: Modèles d'attention dans la PNL

Il s'agit du quatrième cours de la spécialisation du traitement du langage naturel.

Semaine 1: Traduction de machine neurale avec attention

• Traduire des phrases anglaises complètes en français à l'aide d'un modèle d'attention d'encodeur / décodeur

Semaine 2: Résumé avec les modèles de transformateur

• Construire un modèle de transformateur pour résumer le texte

Semaine 3: répondage aux questions avec les modèles de transformateur

• Utilisez des modèles T5 et Bert pour effectuer une réponse aux questions

Semaine 4: chatbots avec un modèle de réformateur

• Construire un chatbot à l'aide d'un modèle de réformateur

Certificat d'achèvement de spécialisation