awesome relation extraction

素晴らしい関係の抽出

Awesome-NLPとAwesome Deep-Visionに触発された、関係抽出に特化した素晴らしいリソースのキュレーションリスト。

貢献：プルリクエストをお気軽にお問い合わせください。

コンテンツ

• 研究動向と調査
• 論文
  • 監視されたアプローチ
  • 遠い監督がアプローチします
  • GNNベースのモデル
  • 言語モデル
    • トランスからのエンコーダー表現
    • トランスからのデコーダー表現
  • ナレッジグラフベースのアプローチ
  • 少ないショット学習アプローチ
• データセット
• ビデオと講義
• システム
• フレームワーク

研究動向と調査

• NLP進捗：関係抽出
• 名前付きエンティティ認識と関係抽出：最先端（Nasar et al。、2021）
• 関係抽出のための深い学習方法の調査（Kumar、2017）
• 関係抽出に関する調査（Bach and Badaskar、2017）
• 関係抽出：調査（Pawar et al。、2017）
• エンティティ関係の抽出に関するレビュー（Zhang et al。、2017）
• 関係抽出方法のレビュー：何が新しいのですか？ （Konstantinova et al。、2014）
• 100 Best Github：関係抽出

論文

監視されたアプローチ

CNNベースのモデル

• 関係抽出のための畳み込みニューラルネットワーク[論文] [コード] [レビュー]
  • Chunyang Liu、Wenbo Sun、Wenhan Chao、Wanxiang Che
  • ADMA 2013
• 畳み込み深いニューラルネットワークを介した関係分類[Paper] [Code] [レビュー]
  • Daojian Zeng、Kang Liu、Siwei Lai、Guangyou Zhou、Jun Zhao
  • Coling 2014
• 関係抽出：畳み込みニューラルネットワークからの視点[Paper] [Code] [レビュー]
  • Thien Huu NguyenとRalph Grishman
  • NAACL 2015
• 畳み込みニューラルネットワークでランキングして関係を分類する[Paper] [Code]
  • Cicero Nogueira Dos Santos、Bing Xiang、Bowen Zhou
  • ACL 2015
• セマンティック関係のための注意ベースの畳み込みニューラルネットワーク抽出[Paper] [Code]
  • ヤチアン・シェンとXuanjing Huang
  • Coling 2016
• マルチレベルの注意CNNSによる関係分類[Paper] [Code]
  • Linlin Wang、Zhu Cao、Gerard de Melo、Zhiyuan Liu
  • ACL 2016
• Semeval-2017のMITタスク10：畳み込みニューラルネットワークとの関係抽出[論文]
  • Ji Young Lee、Franck Dernoncourt、Peter Szolovits
  • Semeval 2017

RNNベースのモデル

• 再発性ニューラルネットワークを介した関係分類[論文]
  • Dongxu ZhangとDong Wang
  • ARXIV 2015
• 関係分類のための双方向短期メモリネットワーク[論文]
  • Shu Zhang、Dequan Zheng、Xinchen Hu、Ming Yang
  • Paclic 2015
• シーケンスとツリー構造にLSTMを使用したエンドツーエンドの関係抽出[紙]
  • Makoto MiwaとMohit Bansal
  • ACL 2016
• 関係分類のための注意ベースの双方向短期メモリネットワーク[Paper] [Code]
  • Peng Zhou、Wei Shi、Jun Tian、Zhenyu Qi、Bingchen Li、Hongwei Hao、Bo Xu
  • ACL 2016
• 注意付きの階層的再発性ニューラルネットワークを介した意味関係の分類[Paper]
  • ミンガン・シャオとコング・リュー
  • Coling 2016
• 潜在的なエンティティタイピングを使用したエンティティに対応する注意を伴う双方向LSTMネットワークによるセマンティック関係分類[Paper] [Code]
  • Joohong Lee、Sangwoo Seo、Yong Suk Choi
  • ARXIV 2019

依存関係ベースのモデル

• 再帰的マトリックスベクトル空間を介したセマンティックな構成性[Paper] [Code]
  • リチャード・ソチャー、ブロディ・フーバル、クリストファー・D・マニング、アンドリュー・Y.NG
  • emnlp-conll 2012
• 因子ベースの組成埋め込みモデル[紙]
  • Mo Yu、Matthw R. Gormley、Mark Dredze
  • 学習セマンティクス2014に関するNIPSワークショップ
• 関係分類のための依存ベースのニューラルネットワーク[論文]
  • ヤン・リュー、フル・ウェイ、スジアン・リー、ヘン・ジ、ミン・サイ、ホーフェン・ワン
  • ACL 2015
• 最短の依存関係パスに沿った長期のメモリネットワークを介して関係を分類[Paper] [Code]
  • Xu Yan、Lili Mou、Ge Li、Yunchuan Chen、Hao Peng、Zhi Jin
  • EMNLP 2015
• 単純なネガティブサンプリングを備えた畳み込みニューラルネットワークによるセマンティック関係分類[Paper]
  • Kun Xu、Yannong Feng、Songfang Huang、Dongyan Zhao
  • EMNLP 2015
• データ増強による深い再発性ニューラルネットワークによる改善された関係分類[論文]
  • Yan Xu、Ran Jia、Lili Mou、Ge Li、Yunchuan Chen、Yangyang Lu、Zhi Jin
  • Coling 2016
• 関係分類のための双方向の再生畳み込みニューラルネットワーク[論文]
  • Rui Cai、Xiaodong Zhang、Houfeng Wang
  • ACL 2016
• 内側の文章騒音回復と転送学習による神経関係抽出[論文]
  • Tianyi Liu、Xinsong Zhang、Wanhao Zhou、Weijia Jia
  • EMNLP 2018

GNNベースのモデル

• ブランクの一致：関係学習の分布類似性[論文]
  • Livio Baldini Soares、Nicholas Fitzgerald、Jeffrey Ling、Tom Kwiatkowski
  • ACL 2019
• 関係の関係：関係抽出問題の新しいパラダイム[論文]
  • Zhijing Jin、Yongyi Yang、Xipeng Qiu、Zheng Zhang
  • EMNLP 2020
• GDPNET：関係抽出のための潜在的なマルチビューグラフの精製[Paper] [Code]
  • Fuzhao Xue、Aixin Sun、Hao Zhang、Eng Siong Chng
  • aaai 21
• Recon：知識抽出知識グラフのコンテキストグラフニューラルネットワークのコンテキスト[Parer] [Code]
  • アンソン・バストス、アブヒシェク・ナドゲリ、クルディープ・シン、イザヤ・オナンド・ムーラン、サイエーデ・シェカルプール、ヨハネス・ホファート、マノハル・カウル
  • www'21

遠い監督がアプローチします

• ラベル付きデータなしの関係抽出のための遠い監督[Paper] [レビュー]
  • マイク・ミンツ、スティーブン・ビルズ、リオン・スノー、ダン・ジュラフスキー
  • ACL 2009
• 重複する関係の情報抽出のための知識ベースの弱い監督[Paper] [Code]
  • Raphael Hoffmann、Congle Zhang、Xiao Ling、Luke Zettlemoyer、Daniel S. Weld
  • ACL 2011
• 関係抽出のためのマルチインスタンスマルチラベル学習[Paper] [Code]
  • Mihai Surdeanu、Julie Tibshirani、Ramesh Nallapati、Christopher D. Manning
  • emnlp-conll 2012
• 区分的畳み込みニューラルネットワークを介した関係抽出の遠い監督[Paper] [Review] [Code]
  • Daojian Zeng、Kang Liu、Yubo Chen、Jun Zhao
  • EMNLP 2015
• マルチインスタンスによる関係抽出マルチラベル畳み込みニューラルネットワーク[Paper] [Review] [Code]
  • Xiaotian Jiang、Quan Wang、Peng Li、Bin Wang
  • Coling 2016
• 神経関係の抽出に関係経路を組み込む[紙] [レビュー]
  • Wenyuan Zeng、Yankai Lin、Zhiyuan Liu、Maosong Sun
  • EMNLP 2017
• インスタンスを介した選択的注意を伴う神経関係抽出[Paper] [Code]
  • ヤンカイ・リン、シキ・シェン、Zhiyuan Liu、Huanbo Luan、Maosong Sun
  • ACL 2017
• 生物医学テキストの関係分類のための畳み込み再生ネットワークモデルを使用したローカルおよびグローバルコンテキストの学習[Paper] [Code] [Code]
  • Desh Raj、Sunil Kumar Sahu、Ashish Anan
  • CONLL 2017
• 粗から洗練された粒子化された注意を伴う階層的関係抽出[紙] [コード]
  • Xu Han、Pengfei Yu ∗、Zhiyuan Liu、Maosong Sun、Peng Li
  • EMNLP 2018
• 居住：サイド情報を使用した遠隔監視の神経関係抽出の改善[Paper] [Code]
  • Shikhar Vashishth、Rishabh Joshi、Sai Suman Prayaga、Chiranjib Bhattacharyya、Partha Talukdar
  • EMNLP 2018
• バッグ内およびバッグ間の注意を伴う遠い監督関係抽出[Paper] [Code]
  • Zhi-Xiu Ye、Zhen-hua ling
  • NAACL 2019

言語モデル

トランスからのエンコーダー表現

• 関係分類のためのエンティティ情報で事前に訓練された言語モデルを豊かにする[論文]
  • シャンチャン・ウー、イーファン・彼
  • ARXIV 2019
• ルーク：エンティティを意識した自己attentionを使用した深い文脈化されたエンティティ表現[Paper] [Code]
  • イクヤヤマダ、浅見、hiroyuki shindo、Hideaki takeda、Matsumotoゆえ
  • EMNLP 2020
• SPANBERT：スパンを表現して予測することにより、トレーニング前の改善[Paper] [Code]
  • マンダル・ジョシ、ダンキ・チェン、Yinhan Liu、Daniel S. Weld、Luke Zettlemoyer、Omer Levy
  • TACL 2020（計算言語学会の取引）
• DG-Spanbertによる効率的な長距離関係抽出[紙]
  • Jun Chen、Robert Hoehndorf、Mohamed Elhoseiny、Xiangliang Zhang

トランスからのデコーダー表現

• 事前に処理された言語表現による関係抽出の改善[Paper] [Review] [Code]
  • Christoph Alt、MarcHübner、Leonhard Hennig
  • AKBC 19

ナレッジグラフベースのアプローチ

• KGPOOL：ダイナミックナレッジグラフコンテキストリレーション抽出のための選択[Paper] [Code]
  • Abhishek Nadgeri、Anson Bastos、Kuldeep Singh、Isaiah Onando Mulang、Johannes Hoffart、Saeedeh Shekarpour、Vijay Saraswat
  • ACL 2021（調査結果）

少ないショット学習アプローチ

• 少ないリル：最先端の評価を備えた大規模な監視された少数のショット関係分類データセット[Paper] [website] [Code]
  • Xu Han、Hao Zhu、Pengfei Yu、Ziyun Wang、Yuan Yao、Zhiyuan Liu、Maosong Sun
  • EMNLP 2018

その他

• 効果的な深いランキングを介してクラスの関係との関係を共同で抽出する[紙]
  • Hai Ye、Wenhan Chao、Zhunchen Luo、Zhoujun Li
  • ACL 2017
• グローバルな最適化によるエンドツーエンドの神経関係抽出[論文]
  • Meishan Zhang、Yue Zhang、Guohong Fu
  • EMNLP 2017
• 関係抽出のための敵対的なトレーニング[論文]
  • Yi Wu、David Bamman、Stuart Russell
  • EMNLP 2017
• 生物医学テキストからのエンティティと関係の抽出のためのニューラルジョイントモデル[紙]
  • Fei Li、Meishan Zhang、Guohong Fu、Donghong Ji
  • BMC Bioinformatics 2017
• 強化学習と深い学習を使用したエンティティと関係の共同抽出[紙]
  • Yuntian Feng、Hongjun Zhang、Wenning Hao、Gang Chen
  • Journal of Computational Intelligence and Neuroscience 2017
• TDEER：エンティティと関係の共同抽出のための効率的な翻訳デコードスキーマ[紙] [コード]
  • Xianming Li、Xiaotian Luo、Chenghao Dong、Daichuan Yang、Beidi Luan、Zhen He
  • EMNLP 2021

トップに戻ります

データセット

• Semeval-2010タスク8 [Paper] [ダウンロード]
  • 名目のペア間のセマンティック関係の多方分類
• ニューヨークタイムズ（NYT）コーパス[紙] [ダウンロード]
  • このデータセットは、NYTコーパスとFreebase関係を調整することで生成され、2005年から2006年のトレーニングコーパスとして使用された文と2007年の文章はテストコーパスとして使用されました。
• 少ないリル：少ないショット関係分類データセット[Paper] [Webサイト]
  • このデータセットは、監視されている少数のショット関係データセットです。コーパスはウィキペディアであり、コーパスの注釈に使用される知識ベースはウィキダタです。
• TACRED：TAC関係抽出データセット[Paper] [Webサイト] [ダウンロード]
  • 年間TACナレッジベース人口（TAC KBP）の課題で使用されているコーパスからのニュースワイヤーおよびWebテキストを構築した大規模な関係抽出データセットです。
• ace05：[website] [download-info]
  • このデータセットは、放送会話、ブロードキャストニュース、ニュースグループ、ウェブログなど、さまざまなソースから抽出されたテキストを表しています。エンティティ上の7つのタイプの間の6つの関係タイプ：Acility（FAC）、Geo-PoliticalEntity（GPE）、Location（Loc）、組織（org）、Person（Per）、Veh（Veh）、Weapon（WEA）。
• Semeval-2018タスク7 [Paper] [Webサイト] [ダウンロード]
  • コーパスは、科学論文の要約と紹介から収集されており、合計で6種類の意味関係があります。それには3つのサブタスクがあります。Subtask1.1とSubtask 1.2は、それぞれクリーンでノイズの多いデータに関する関係分類です。 Subtask 2は標準関係抽出です。

最先端の結果については、関係抽出についてnlpprogress.comをご覧ください

トップに戻ります

ビデオと講義

• スタンフォード大学：CS124、ダンジュラフスキー
  • （ビデオ）5週目：関係の抽出と質問
• ワシントン大学：CSE517、Luke Zettlemoyer
  • （スライド）関係抽出1
  • （スライド）関係抽出2
• ニューヨーク大学：CSCI-GA.2590、ラルフグリッシュマン
  • （スライド）関係抽出：ルールベースのアプローチ
• ミシガン大学：Coursera、Dragomir R. Radev
  • （ビデオ）講義48：関係抽出
• バージニア大学：CS6501-NLP、Kai-Wei Chang
  • （スライド）講義24：関係抽出

トップに戻ります

システム

• ディープダイブ
• スタンフォード関係抽出器

トップに戻ります

フレームワーク

• Opennre [github] [紙]
  • 指定されたエンティティ間で関係抽出（RE）のニューラルモデルを実装するための統一されたフレームワークを提供するオープンソースおよび拡張可能なツールキットです。文レベルのRE、バッグレベルのRE、ドキュメントレベルRE、および少数のショットREなど、さまざまなシナリオ向けに設計されています。 TensorflowとPytorchの両方に基づいたさまざまな機能的REモジュールを提供して、十分なモジュール性と拡張性を維持するため、新しいモデルをフレームワークに簡単に組み込むことができます。
• arekit [github] [Research-applable-paper]
  • ドキュメントレベルの関連抽出組織のデータ準備に焦点を当てたオープンソースと拡張可能なツールキットです。後者の点では、ドキュメントレベルの再設定が広く調査されていない（2.4 [Paper]）。コア機能には、（1）文書レベル関係の準備のためのEL（エンティティリンク、つまりオブジェクトの同義語）サポート（コンテキストとして呼ばれる）（2）コンテキスト抽出のAPI（3）文書レベルからドキュメントレベルなどに転送されるAPIなどのドキュメントプレゼンテーションのAPIが含まれます。
• dere [github] [紙]
  • 説明の抽出のためのオープンソースフレームワークであるため、独自のタスク（XMLスキーマを使用）を宣言し、手動で実装されたモデルを適用することができます（提供されたAPIを使用）。タスク宣言は、スパンとスパン間の関係の上に構築されます。後者に関しては、著者はフレームを提案します。ここでは、すべてのフレームが（1）トリガー（ SPAN ）および（2） nスロットのYeldsを提案します。フレームワークは、フレームが抽出されるウィンドウに理論的な制限をもたらしません。したがって、この概念は、文レベル、ドキュメントレベル、およびマルチドキュメントの再タスクをカバーする場合があります。

トップに戻ります

ライセンス

法律の下で可能な範囲で、Joohong Leeは、この作業に対するすべての著作権および関連または近隣の権利を放棄しました。