nlp_overview

现代深度学习技术应用于自然语言处理

该项目概述了基于深度学习的自然语言处理（NLP）的最新趋势。它涵盖了深度学习模型背后的理论描述和实施细节，例如经常性神经网络（RNN），卷积神经网络（CNNS）和强化学习，用于解决各种NLP任务和应用。该概述还包含了NLP任务的最新结果摘要，例如机器翻译，问题答案和对话系统。您可以在以下地址找到学习资源：https：//nlpoverview.com/。该网站的快照如下：

关于这个项目

该项目的主要动机如下：

• 维护最新的学习资源，该学习资源整合了与NLP研究有关的重要信息，例如：
  • 最新结果
  • 新兴概念和应用
  • 新的基准数据集
  • 代码/数据集发行
  • ETC。
• 创建友好而开放的资源，以帮助指导研究人员和任何有兴趣了解应用于NLP的现代技术的人
• 一个协作项目，专家研究人员可以根据他们的最新发现和实验结果建议更改（例如，合并SOTA结果）

目录

• 介绍
• 分布式表示
  • 单词嵌入
  • Word2Vec
  • 字符嵌入
  • 上下文化的单词嵌入
• 卷积神经网络
  • 基本CNN
    • 句子建模
    • 窗口方法
  • 申请
• 复发性神经网络
  • 需要经常性网络
  • RNN模型
    • 简单的RNN
    • 长期的短期记忆
    • 封闭的复发单元
  • 申请
    • 用于单词级分类的RNN
    • 句子级分类的RNN
    • RNN生成语言
  • 注意机制
  • 并行注意：变压器
• 递归神经网络
  • 基本模型
• 深厚的模型和深度无监督的学习
  • 序列生成的增强学习
  • 无监督的句子表示学习
  • 深层生成模型
• 内存启动网络
• 不同模型在不同的NLP任务上的性能
  • POS标签
  • 解析
  • 命名实体识别
  • 语义角色标签
  • 情感分类
  • 机器翻译
  • 问题回答
  • 对话系统
  • 上下文化的嵌入

如何做出贡献？

有多种为该项目做出贡献的方法。

• 提出编辑或添加文本的最快方法如下： fork回购，浏览到相应的chapter ，然后单击edit按钮以添加您的信息。下图显示了您分配回购后的最后两个步骤。然后，您可以提交拉动请求，我们将相应地批准。如果您想更改项目的很大一部分甚至添加一章，则建议您查看下面的"Build site locally"部分。

• 如果您不熟悉git ，也可以在此公共共享文档中提出文本添加。我们将帮助编辑和修改内容，然后进一步帮助您纳入项目的贡献。
• 请参阅“问题”部分，以了解有关您可以提供帮助的其他方式的更多信息。
• 或者，您可以通过提交新问题提出建议。更详细的说明即将推出。

在本地建立站点

如果您打算更改网站的某些方面（例如，添加部分或样式）并希望在计算机上本地预览它，我们建议您使用jekyll在本地构建和运行该站点。这是说明：

• 首先，检查计算机上是否安装了Ruby 2.1.0或更高版本。您可以使用ruby --version命令检查。如果不是，请使用此处提供的说明安装它。
• 确保Ruby已安装后，使用gem install bundler 。
• 克隆本地回购： git clone https://github.com/omarsar/nlp_overview.git
• 用cd nlp_overview导航到回购文件夹
• 安装Jekyll： bundle install
• 本地运行Jekyll网站： bundle exec jekyll serve
• 浏览器上的预览网站http://localhost:4000

维护

该项目由Elvis Saravia和Soujanya Poria维护。如果您有任何直接评论或问题，也可以在Twitter上找到我。该项目的主要部分是从Young等人的工作中直接借来的。 （2017）。我们感谢作者。