awesome relation extraction

Удивительное извлечение отношений

Куративный список удивительных ресурсов, посвященных извлечению отношений, вдохновленный Awesome-NLP и потрясающим видом.

Внесение вклад : Пожалуйста, не стесняйтесь делать запросы .

Содержимое

• Тенденции исследования и опросы
• Документы
  • Подзон подходов
  • Отдаленные подходы к надзору
  • Модели на основе GNN
  • Языковые модели
    • Представление энкодера от трансформатора
    • Представление декодера от трансформатора
  • Подходы на основе графа знаний
  • Несколько подходов к обучению
• Наборы данных
• Видео и лекции
• Система
• Рамки

Тенденции исследования и опросы

• Прогресс НЛП: извлечение отношений
• Названное признание и извлечение отношений: современность (Nasar et al., 2021)
• Обзор методов глубокого обучения для добычи отношений (Kumar, 2017)
• Опрос об экстракции отношений (Bach and Badaskar, 2017)
• Извлечение отношений: опрос (Pawar et al., 2017)
• Обзор по добыче отношений сущности (Zhang et al., 2017)
• Обзор методов извлечения отношений: что нового? (Konstantinova et al., 2014)
• 100 лучших GitHub: извлечение отношений

Документы

Подзон подходов

Модели на основе CNN

• Развертка нейронная сеть для извлечения отношений [Paper] [CODE] [Обзор]
  • Chunyang Liu, Wenbo Sun, Wenhan Chao и Wanxiang Che
  • Adma 2013
• Классификация отношений через сверточную глубокую нейронную сеть [Paper] [CODE] [Обзор]
  • Даодзиан Зенг, Кан Лю, Сивей Лай, Гуангью Чжоу и Джун Чжао
  • Coling 2014
• Извлечение отношений: перспектива из сверточных нейронных сетей [Paper] [CODE] [Обзор]
  • Тиен Ху Нгуен и Ральф Гришман
  • NAACL 2015
• Классификация отношений, заняв рейтинг с сверточными нейронными сетями [Paper] [Код]
  • Цицерон Ногейра Дос Сантос, Бинг Сян и Боуэн Чжоу
  • ACL 2015
• Основанная на внимании сверточную нейронную сеть для извлечения семантических отношений [Paper] [CODE]
  • Yatian Shen и Xuanjing Huang
  • Coling 2016
• Классификация отношений через многоуровневое внимание CNNS [Paper] [CODE]
  • Линлин Ван, Чжу Цао, Джерард де Мело и Чжиюань Лю
  • ACL 2016
• MIT в Semeval-2017 Задача 10: Извлечение отношений с помощью сверточных нейронных сетей [Paper]
  • Джи Янг Ли, Франк Дернонкорт и Питер Шоловит
  • Semeval 2017

Модели на основе RNN

• Классификация отношений через рецидивирующую нейронную сеть [Paper]
  • Dongxu Zhang и Dong Wang
  • ARXIV 2015
• Двунаправленные длинные кратковременные сети памяти для классификации отношений [Paper]
  • Шу Чжан, Декуан Чжэн, Синчен Ху и Мин Ян
  • Paclic 2015
• Извлечение сквозного отношения с использованием LSTM на последовательностях и структуре деревьев [бумага]
  • Макото Мива и Мохит Бансал
  • ACL 2016
• Основанные на внимании двунаправленные длинные кратковременные сети памяти для классификации отношений [Paper] [CODE]
  • Пенг Чжоу, Вэй Ши, Джун Тиан, Чжениу Ци, Бингхен Ли, Хонгвей Хао и Бо Сюй
  • ACL 2016
• Классификация семантических отношений через иерархическую рецидивирующую нейронную сеть с вниманием [Paper]
  • Minguang Xiao и Cong Liu
  • Coling 2016
• Классификация семантических отношений через двунаправленные сети LSTM с вниманием к организации с использованием типирования скрытой сущности [Paper] [CODE]
  • Joohong Lee, Sangwoo Seo и Yong Suk Choi
  • Arxiv 2019

Модели на основе зависимостей

• Семантическая композиция через рекурсивные матричные векторные пространства [Paper] [Code]
  • Ричард Сочер, Броди Хуваль, Кристофер Д. Мэннинг и Эндрю Й. Нг
  • EMNLP-CONLL 2012
• Факторные модели встраивания композиции [Paper]
  • Мо Ю, Матв Р. Гормли и Марк Дедзе
  • Семинар NIPS по обучению Semantics 2014
• Нейронная сеть на основе зависимостей для классификации отношений [Paper]
  • Ян Лю, Фуру Вэй, Судзиан Ли, Хенг Джи, Мин Чжоу и Хуфенг Ван
  • ACL 2015
• Классификация отношений с помощью длинных краткосрочных сетей памяти по кратчайшему пути зависимости [Paper] [Code]
  • Сюй Ян, Лили Му, Ге Ли, Юнчуан Чен, Хао Пенг и Чжи Джин
  • EMNLP 2015
• Классификация семантических отношений через сверточные нейронные сети с простой отрицательной выборкой [Paper]
  • Kun Xu, Yansong Feng, Songfang Huang и Dongyan Zhao
  • EMNLP 2015
• Улучшенная классификация отношений с помощью глубоких повторяющихся нейронных сетей с увеличением данных [Paper]
  • Ян Сюй, Ран Цзя, Лили Му, Ге Ли, Юнчуан Чен, Яньян Лу и Чжи Джин
  • Coling 2016
• Двунаправленная повторяющаяся сверточная нейронная сеть для классификации отношений [Paper]
  • Руи Кай, Сяодон Чжан и Хуфенг Ванг
  • ACL 2016
• Извлечение нейронных отношений через снижение шумоподавления внутреннего предложения и обучение переноса [бумага]
  • Tianyi Liu, Xinsong Zhang, Wanhao Zhou, Weijia jia
  • EMNLP 2018

Модели на основе GNN

• Сопоставление пробелов: сходство распределения для отношения к отношениям [бумага]
  • Ливио Балдини Соарес, Николас Фицджеральд, Джеффри Лин, Том Квиатковски
  • ACL 2019
• Отношение отношений: новая парадигма проблемы извлечения отношений [бумага]
  • Чжиджин Джин, Йонги Ян, Сюзенг Цю, Чжэн Чжан
  • EMNLP 2020
• GDPNET: уточнение скрытого мульти-просмотра Графа для извлечения отношений [Paper] [CODE]
  • Fuzhao Xue, Aixin Sun, Hao Zhang, Eng Siong Chng
  • AAAI 21
• Recon: Извлечение отношений с использованием контекста графа знаний в нейронной сети графика [Parer] [CODE]
  • Ансон Бастос, Абхишек Наджери, Кулдип Сингх, Исаия Онандо Муланг, Саиде Шекарпур, Йоханнес Хоффарт, Манохар Каул
  • Www'21

Отдаленные подходы к надзору

• Отдаленный надзор за извлечением отношений без помеченных данных [Paper] [Review]
  • Майк Минц, Стивен Биллс, Рион Сноу и Дэн Юрафски
  • ACL 2009
• Основанный на знаниях слабый надзор за извлечением информации перекрывающихся отношений [Paper] [Code]
  • Рафаэль Хоффманн, Конгл Чжан, Сяо Лин, Люк Зеттлемойер и Даниэль С. Уэлд
  • ACL 2011
• Многопользовательское многолетнее обучение для извлечения отношений [Paper] [Code]
  • Михай Сурдену, Джули Тибширани, Рамеш Наллапати и Кристофер Д. Мэннинг
  • EMNLP-CONLL 2012
• Отдаленный надзор за добычей отношений с помощью кусочно -сверточных нейронных сетей [Paper] [Обзор] [Код]
  • Даодзиан Зенг, Кан Лю, Юбо Чен и Джун Чжао
  • EMNLP 2015
• Извлечение отношений с помощью многопользовательских сверточных нейронных сетей [Paper] [Обзор] [Code] [Code] [Code]
  • Сяотиан Цзян, Куан Ван, Пенг Ли, бин Ван
  • Coling 2016
• Включение пути отношений в экстракцию нейронных отношений [документ] [Обзор]
  • Вениуан Цзэн, Янкай Лин, Чжиюань Лю и Маосонг Солнце
  • EMNLP 2017
• Извлечение нейронных отношений с селективным вниманием к экземплярам [Paper] [Код]
  • Янкай Лин, Шики Шен, Чжиюань Лю, Хуанбо Луан и Маосонг Солнце
  • ACL 2017
• Изучение локального и глобального контекста с использованием сверточной рецидивирующей сетевой модели для классификации отношений в биомедицинском тексте [Paper] [CODE] [CODE]
  • Деш Радж, Сунил Кумар Саху и Ашиш Анан
  • Conll 2017
• Иерархическое извлечение отношений с грубым и накормированным вниманием [Paper] [Code]
  • Xu Han, Pengfei Yu ∗, Zhiyuan Liu, Maosong Sun, Peng Li
  • EMNLP 2018
• Проживание: улучшение отдаленного экстракции нейронных отношений с использованием побочной информации [Paper] [Code]
  • Шихар Вашишт, Ришабх Джоши, Сай Суман Плайага, Чиранджиб Бхаттачарья и Партха Талукдар
  • EMNLP 2018
• Извлечение отношений с отдаленным надзором с помощью интрабага и межбагского внимания [Paper] [CODE]
  • Zhi-xiu Ye, Zhen-Hua Ling
  • NAACL 2019

Языковые модели

Представление энкодера от трансформатора

• Обогащение предварительно обученной языковой модели с информацией о сущности для классификации отношений [Paper]
  • Shanchan Wu, Yifan He
  • Arxiv 2019
• Люк: глубокие контекстуализированные представления сущности с самоуничтожением, с учетом самоуправления [Paper] [Код]
  • Икуя Ямада, Акари Асай, Хироюки Шиндо, Хидаки Такеда, Юджи Мацумото
  • EMNLP 2020
• SPANBERT: улучшение предварительного обучения, представляя и предсказывая пролеты [Paper] [CODE]
  • Мандар Джоши, Данки Чен, Иньхан Лю, Даниэль С. Уэлд, Люк Зеттлемуер и Омер Леви
  • TACL 2020 (транзакции Ассоциации вычислительной лингвистики)
• Эффективное экстракция связи на расстоянии с помощью DG-Spanbert [Paper]
  • Джун Чен, Роберт Хундорф, Мохамед Элхосейни, Сянглиан Чжан

Представление декодера от трансформатора

• Улучшение извлечения отношений с помощью предварительно проведенных языковых представлений [Paper] [Review] [Code]
  • Кристоф Альт, Марк Хюбнер, Леонхард Хенниг
  • AKBC 19

Подходы на основе графа знаний

• KGPOOL: динамический график знаний Выбор контекста для извлечения отношений [Paper] [CODE]
  • Абхишек Наджери, Ансон Бастос, Кулдип Сингх, Исаия Онандо Муланг, Йоханнес Хоффарт, Саиде Шекарпур и Виджай Сарасват
  • ACL 2021 (выводы)

Несколько подходов к обучению

• Многорель: крупномасштабный набор данных по классификации отношений с под наблюдением с современной оценкой [Paper] [Веб-сайт] [Код]
  • Сюй Хан, Хао Чжу, Пенгфей Ю, Зиюн Ван, Юань Яо, Чжиюань Лю, Маосонг Солнце
  • EMNLP 2018

Разнообразный

• Совместно извлечение отношений с классовыми связями с помощью эффективного глубокого ранжирования [Paper]
  • Хай Йе, Венхан Чао, Жанчун Луо и Чжоудзюн Ли
  • ACL 2017
• Извлечение из сквозного нейронного отношения с глобальной оптимизацией [Paper]
  • Meishan Zhang, Yue Zhang и Guohong Fu
  • EMNLP 2017
• Обучение состязания для извлечения отношений [бумага]
  • И Ву, Дэвид Бамман и Стюарт Рассел
  • EMNLP 2017
• Модель нервного сустава для извлечения сущности и отношений из биомедицинского текста [бумага]
  • Фей Ли, Мейшан Чжан, Гухонг Фу и Донгун Джи
  • BMC Bioinformatics 2017
• Совместное извлечение сущностей и отношений с использованием подкрепления обучения и глубокого обучения [Paper]
  • Юнтиан Фэн, Хонгджун Чжан, Веннинг Хао и Банд Чен
  • Журнал вычислительной интеллекта и нейробиологии 2017
• Tdeer: эффективная схема декодирования для совместной добычи сущностей и отношений [Paper] [Код]
  • Сяньминг Ли, Сяотиан Луо, Ченгао Донг, Дайчуань Ян, Бейди Луан и Чжэнь Хе
  • EMNLP 2021

Вернуться к вершине

Наборы данных

• Semeval-2010 Задача 8 [Paper] [Скачать]
  • Многородная классификация семантических отношений между парами номиналов
• New York Times (NYT) Corpus [Paper] [Скачать]
  • Этот набор данных был сгенерирован путем согласования свободных отношений с корпусом NYT, при этом предложения с 2005-2006 годов использовались в качестве учебного корпуса и предложения 2007 года, используемых в качестве тестирования.
• Несоответствие: набор данных классификации с несколькими снимками [Paper] [Веб-сайт]
  • Этот набор данных представляет собой набор данных классификации с несколькими выстрелами. Корпус - Википедия, а база знаний, используемая для аннотирования корпуса, - Wikidata.
• Tacred: набор данных извлечения отношений TAC [Paper] [Веб -сайт] [Скачать]
  • Является крупномасштабным набором данных о извлечении отношений с построенными по новке и веб-текстам из корпуса, используемого в годовых задачах TAC Base Base Base (TAC KBP).
• ACE05: [Веб-сайт] [Download-Info]
  • Этот набор данных представляет тексты, извлеченные из различных источников: вещательный разговор, вещательные новости, группы новостей, блог. 6 типов соотношений между 7 типами на организациях: асимость (FAC), геополитичность (GPE), местоположение (LOC), организация (ORG), лицо (PER), транспортное средство (автомобиль), оружие (WEA).
• Semeval-2018 Задача 7 [Paper] [Веб-сайт] [Скачать]
  • Корпус собирается из рефератов и введения научных работ, и в целом существует шесть типов семантических отношений. Существует три подзадачи этого: Subtask 1.1 и Subtask 1.2 - это классификация отношений по чистым и шумным данным соответственно; Подзадача 2 является стандартной извлечением.

Для получения результатов искусства посетите nlpprogress.com при извлечении отношений

Вернуться к вершине

Видео и лекции

• Стэнфордский университет: CS124, Дэн Юрафски
  • (Видео) Неделя 5: Извлечение отношения и вопрос
• Вашингтонский университет: CSE517, Люк Зеттлемойер
  • (Слайд) Извлечение соотношения 1
  • (Слайд) Извлечение соотношения 2
• Нью-Йоркский университет: CSCI-GA.2590, Ральф Гришман
  • (Слайд) Извлечение отношений: подходы, основанные на правилах
• Мичиганский университет: Coursera, Dragomir R. Radev
  • (Видео) Лекция 48: Извлечение отношений
• Университет Вирджинии: CS6501-NLP, Kai-Wei Chang
  • (Слайд) Лекция 24: Извлечение отношений

Вернуться к вершине

Система

• Глубокий
• Стэнфордский экстрактор отношения

Вернуться к вершине

Рамки

• OpenNre [GitHub] [Paper]
  • Является открытым исходным кодом и расширяемым инструментом, который обеспечивает унифицированную основу для реализации нейронных моделей для добычи отношения (re) между названными объектами. Он предназначен для различных сценариев для RE, в том числе RE, уровня сумки, RE, уровня документа RE и нескольких выстрелов. Он обеспечивает различные функциональные модули RE, основанные как на Tensorflow, так и на Pytorch, для поддержания достаточной модульности и расширяемости, что делает его легко внедрять новые модели в структуру.
• Arekit [github] [Применяемая исследование бумага]
  • Является открытым исходным кодом и расширяемым инструментом, ориентированным на подготовку данных для организации по достоинств на уровне документов. Он дополняет функциональность OpenNRE, как и в плане последнего, настройка RE на уровне документа не широко изучается (2.4 [Paper]). Основная функциональность включает в себя (1) API для презентации документов с EL (связывание сущности, IE Синонимия объекта) для подготовки отношений на уровне предложений (названо контекстами) (2) API для контекстов для экстракции (3), передавающихся с уровня предложений на уровне документов и т. Д.
• Dere [GitHub] [Paper]
  • Является структурой с открытым исходным кодом для de clarity re extraction и, следовательно, позволяет объявить свою собственную задачу (с использованием схемы XML) и применить вручную внедренные модели для него (с помощью предоставленного API). Декларация задачи строится на вершине пролетов и отношений между пролетами . С точки зрения последнего, авторы предлагают кадры , где каждая кадра заводится: (1) триггер (SPAN) и (2) N -Slots, где каждый слот может относиться к кадре или SPAN . Структура не создает теоретических ограничений в окне, из которого извлекаются кадры. Таким образом, эта концепция может охватывать задачи на уровне предложений, уровня документа и многодокументирования.

Вернуться к вершине

Лицензия

В той мере, что в соответствии с законом, Джохонг Ли отказался от всех авторских прав и связанных или соседних прав на эту работу.