coursera natural language processing specialization

Coursera上的自然语言处理专业（由DeepLearning.AI提供）

coursera自然语言处理专业deeplearning.ai中所有课程的编程作业。

学分

此存储库包含我的专业工作。除非另有规定，否则代码基础，测验问题和图表是从自然语言处理专业方面取​​出的。

课程

Coursera上的自然语言处理专业课程包含四个课程：

• 课程1：分类和矢量空间的自然语言处理
• 课程2：具有概率模型的自然语言处理
• 课程3：使用序列模型的自然语言处理
• 课程4：通过注意模型进行自然语言处理

专业信息

• 自然语言处理（NLP）使用算法来理解和操纵人类语言。该技术是机器学习最广泛应用的领域之一。随着AI的不断扩大，对熟练构建语音和语言，揭示上下文模式并产生文本和音频的见解的专业人士的需求也将如此。

• 在此专业结束时，您将准备好设计执行提问和情感分析的NLP应用程序，创建翻译语言并总结文本的工具，甚至构建聊天机器人。这些和其他NLP应用程序将位于即将到来的AI驱动未来的最前沿。

• 该专业化是由NLP，机器学习和深度学习的两位专家设计和讲授的。 Younes Bensouda Mourri是斯坦福大学AI的讲师，他还帮助建立了深入的学习专业化。 Kasz Kaiser是Google Brain的员工研究科学家，也是Tensorflow，Tensor2Tensor和Trax库以及Transferter Paper的合着者。

涵盖了主题

这种专业化将使您掌握建立最先进的NLP系统所需的最新深度学习技术：

• 使用逻辑回归，幼稚的贝叶斯和单词向量来实现情感分析，完整的类比和翻译单词，并使用局部敏感的散列，以便将大约最近的邻居使用。

• 使用动态编程，隐藏的Markov模型和单词嵌入来自动更正拼写错误的单词，自动完整的部分句子，并确定单词的词性部分。

• 在Tensorflow和Trax中使用密集的和经常性的神经网络，LSTMS，GRU和Siamese网络执行高级情感分析，文本生成，命名实体识别，并确定重复的问题。

• 使用编码器编码器，因果关系和自我注意力，以执行完整句子，文本摘要，提问和构建聊天机器人的高级机器翻译。涵盖的模型包括T5，Bert，Transformer，Reformer等！享受！

编程作业

课程1：分类和矢量空间的自然语言处理

• 第1周
  • 任务：
    • 情感分析与逻辑回归
  • 实验室：
    • 自然语言预处理
    • 可视化单词频率
    • 可视化推文和逻辑回归模型
• 第2周
  • 任务：
    • 天真的贝叶斯
  • 实验室：
    • 可视化可能性和信心椭圆
• 第3周
  • 任务：
    • 单词嵌入：你好向量
  • 实验室：
    • 与numpy的Python中的线性代数
    • 操纵单词嵌入
    • 关于PCA的另一个解释
• 第4周
  • 任务：
    • 单词翻译
  • 实验室：
    • R2中的旋转矩阵
    • 哈希表

课程2：具有概率模型的自然语言处理

• 第1周
  • 任务：
    • 自动更正
  • 实验室：
    • 构建词汇
    • 来自编辑的候选人
• 第2周
  • 任务：
    • 语音标签的一部分
  • 实验室：
    • 使用文本数据
    • 使用标签和numpy
• 第3周
  • 任务：
    • 自动完成
  • 实验室：
    • n-gram的语料库预处理
    • 建立语言模型
    • 语言模型概括
• 第4周
  • 任务：
    • 单词嵌入
  • 实验室：
    • 数据准备
    • CBOW模型介绍
    • 训练CBOW模型
    • 单词嵌入
    • 单词嵌入逐步

课程3：使用序列模型的自然语言处理

• 第1周
  • 任务：
    • 深层神经网络的情感
  • 实验室：
    • Trax简介
    • 课程和子类
    • 数据生成器
• 第2周
  • 任务：
    • 深n克
  • 实验室：
    • 隐藏状态激活
    • 使用jax numpy并计算困惑
    • 香草RNN，GRUS和扫描功能
    • 使用TRAX创建GRU模型
• 第3周
  • 任务：
    • 命名实体识别（NER）
  • 实验室：
    • 消失的梯度
• 第4周
  • 任务：
    • 问题重复
  • 实验室：
    • 使用Trax创建暹罗模型
    • 修改后的三重损失
    • 评估暹罗模型

课程4：通过注意模型进行自然语言处理

• 第1周
  • 任务：
    • NMT引起注意
  • 实验室：
    • 堆栈语义
    • BLEU得分
• 第2周
  • 任务：
    • 变压器摘要
  • 实验室：
    • 注意力
    • 变压器解码器
• 第3周
  • 任务：
    • 问题回答
  • 实验室：
    • 句子和bpe
    • 伯特损失
    • T5
• 第4周
  • 任务：
    • 聊天机器人
  • 实验室：
    • 改革家LSH
    • Revnet

免责声明

我认识到人们在建立直觉，了解新概念和调试任务的困难时期。这里上传的解决方案仅供参考。如果您被困在某个地方，它们的目的是取消阻止您。请不要复制代码的任何部分（如果您仔细阅读说明，则编程作业非常容易）。同样，在参考测验解决方案之前先尝试测验。