nlp_overview

現代深度學習技術應用於自然語言處理

該項目概述了基於深度學習的自然語言處理（NLP）的最新趨勢。它涵蓋了深度學習模型背後的理論描述和實施細節，例如經常性神經網絡（RNN），卷積神經網絡（CNNS）和強化學習，用於解決各種NLP任務和應用。該概述還包含了NLP任務的最新結果摘要，例如機器翻譯，問題答案和對話系統。您可以在以下地址找到學習資源：https：//nlpoverview.com/。該網站的快照如下：

關於這個項目

該項目的主要動機如下：

• 維護最新的學習資源，該學習資源整合了與NLP研究有關的重要信息，例如：
  • 最新結果
  • 新興概念和應用
  • 新的基準數據集
  • 代碼/數據集發行
  • ETC。
• 創建友好而開放的資源，以幫助指導研究人員和任何有興趣了解應用於NLP的現代技術的人
• 一個協作項目，專家研究人員可以根據他們的最新發現和實驗結果建議更改（例如，合併SOTA結果）

目錄

• 介紹
• 分佈式表示
  • 單詞嵌入
  • Word2Vec
  • 字符嵌入
  • 上下文化的單詞嵌入
• 卷積神經網絡
  • 基本CNN
    • 句子建模
    • 窗口方法
  • 申請
• 復發性神經網絡
  • 需要經常性網絡
  • RNN模型
    • 簡單的RNN
    • 長期的短期記憶
    • 封閉的複發單元
  • 申請
    • 用於單詞級分類的RNN
    • 句子級分類的RNN
    • RNN生成語言
  • 注意機制
  • 並行注意：變壓器
• 遞歸神經網絡
  • 基本模型
• 深厚的模型和深度無監督的學習
  • 序列生成的增強學習
  • 無監督的句子表示學習
  • 深層生成模型
• 內存啟動網絡
• 不同模型在不同的NLP任務上的性能
  • POS標籤
  • 解析
  • 命名實體識別
  • 語義角色標籤
  • 情感分類
  • 機器翻譯
  • 問題回答
  • 對話系統
  • 上下文化的嵌入

如何做出貢獻？

有多種為該項目做出貢獻的方法。

• 提出編輯或添加文本的最快方法如下： fork回購，瀏覽到相應的chapter ，然後單擊edit按鈕以添加您的信息。下圖顯示了您分配回購後的最後兩個步驟。然後，您可以提交拉動請求，我們將相應地批准。如果您想更改項目的很大一部分甚至添加一章，則建議您查看下面的"Build site locally"部分。

• 如果您不熟悉git ，也可以在此公共共享文檔中提出文本添加。我們將幫助編輯和修改內容，然後進一步幫助您納入項目的貢獻。
• 請參閱“問題”部分，以了解有關您可以提供幫助的其他方式的更多信息。
• 或者，您可以通過提交新問題提出建議。更詳細的說明即將推出。

在本地建立站點

如果您打算更改網站的某些方面（例如，添加部分或樣式）並希望在計算機上本地預覽它，我們建議您使用jekyll在本地構建和運行該站點。這是說明：

• 首先，檢查計算機上是否安裝了Ruby 2.1.0或更高版本。您可以使用ruby --version命令檢查。如果不是，請使用此處提供的說明安裝它。
• 確保Ruby已安裝後，使用gem install bundler 。
• 克隆本地回購： git clone https://github.com/omarsar/nlp_overview.git
• 用cd nlp_overview導航到回購文件夾
• 安裝Jekyll： bundle install
• 本地運行Jekyll網站： bundle exec jekyll serve
• 瀏覽器上的預覽網站http://localhost:4000

維護

該項目由Elvis Saravia和Soujanya Poria維護。如果您有任何直接評論或問題，也可以在Twitter上找到我。該項目的主要部分是從Young等人的工作中直接借來的。 （2017）。我們感謝作者。