nlp_overview

자연어 처리에 적용되는 현대적인 딥 러닝 기술

이 프로젝트에는 딥 러닝 기반 자연 언어 처리 (NLP)의 최근 트렌드에 대한 개요가 포함되어 있습니다. 그것은 다양한 NLP 작업 및 응용 프로그램을 해결하는 데 사용되는 재발 신경 네트워크 (RNN), CNN (Convolutional Neural Networks) 및 강화 학습과 같은 딥 러닝 모델의 이론적 설명 및 구현 세부 사항을 다룹니다. 이 개요에는 기계 번역 , 질문 응답 및 대화 시스템 과 같은 NLP 작업에 대한 최첨단 결과 요약도 포함되어 있습니다. 다음 주소에서 학습 리소스를 찾을 수 있습니다. https://nlpoverview.com/. 웹 사이트의 스냅 샷은 다음과 같습니다.

이 프로젝트에 대해

이 프로젝트의 주요 동기는 다음과 같습니다.

• NLP 연구와 관련된 중요한 정보를 통합하는 최신 학습 리소스를 유지하십시오.
  • 최첨단 결과
  • 새로운 개념 및 응용 프로그램
  • 새로운 벤치 마크 데이터 세트
  • 코드/데이터 세트 릴리스
  • 등.
• NLP에 적용되는 현대 기술에 대해 배우는 데 관심이있는 사람을 안내하는 친절하고 개방적인 자원을 만들어
• 전문가 연구자들이 최근 발견과 실험 결과를 기반으로 변화 (예 : SOTA 결과를 통합)를 제안 할 수있는 협업 프로젝트

목차

• 소개
• 분산 된 표현
  • 단어 임베딩
  • Word2vec
  • 캐릭터 임베딩
  • 맥락화 된 단어 임베딩
• 컨볼 루션 신경 네트워크
  • 기본 CNN
    • 문장 모델링
    • 창 접근
  • 응용 프로그램
• 재발 성 신경망
  • 반복 네트워크가 필요합니다
  • RNN 모델
    • 간단한 RNN
    • 긴 단기 기억
    • 게이트 반복 단위
  • 응용 프로그램
    • 단어 수준 분류를위한 RNN
    • 문장 수준 분류를위한 RNN
    • 언어 생성을위한 RNN
  • 주의 메커니즘
  • 병렬화 : 변압기
• 재귀 적 신경망
  • 기본 모델
• 깊은 강화 모델과 깊은 감독 학습
  • 시퀀스 생성을위한 강화 학습
  • 감독되지 않은 문장 표현 학습
  • 깊은 생성 모델
• 메모리 구조 네트워크
• 다른 NLP 작업에서 다른 모델의 성능
  • POS 태깅
  • 구문 분석
  • 명명 된 엔티티 인식
  • 시맨틱 역할 라벨링
  • 감정 분류
  • 기계 번역
  • 질문 대답
  • 대화 시스템
  • 맥락화 된 임베딩

기여하는 방법?

이 프로젝트에 기여하는 다양한 방법이 있습니다.

• 편집 또는 추가 텍스트를 제안하는 가장 빠른 방법은 다음과 같습니다. 저장소를 fork 해당 chapter 으로 찾아보고 edit 버튼을 클릭하여 정보를 추가하십시오. 아래 이미지는 repo를 포기한 후 마지막 두 단계를 보여줍니다. 그런 다음 풀 요청을 제출할 수 있으며 그에 따라 승인합니다. 프로젝트의 엄청난 부분을 변경하거나 장을 추가하려면 아래의 "Build site locally" 섹션을 보는 것이 좋습니다.

• git 에 익숙하지 않은 경우이 공개 공유 문서에서 텍스트 추가를 제안 할 수도 있습니다. 우리는 컨텐츠를 편집하고 수정하는 데 도움이 된 다음 프로젝트에 기여를 통합 할 수 있도록 도와줍니다.
• 도움이 될 수있는 다른 방법에 대해 자세히 알아 보려면 문제 섹션을 참조하십시오.
• 또는 새로운 문제를 제출하여 제안을 할 수 있습니다. 더 자세한 지침이 곧 제공됩니다.

로컬로 사이트를 구축하십시오

사이트의 일부 측면 (예 : 섹션 또는 스타일 추가)을 변경하고 컴퓨터에서 로컬로 미리보기를하려면 jekyll 사용하여 사이트를 로컬로 빌드하고 실행하는 것이 좋습니다. 다음은 다음과 같습니다.

• 먼저, Ruby 2.1.0 이상이 컴퓨터에 설치되어 있는지 확인하십시오. ruby --version 명령을 사용하여 확인할 수 있습니다. 그렇지 않은 경우 여기에 제공된 지침을 사용하여 설치하십시오.
• Ruby가 설치된 후 gem install bundler 를 사용하여 Bundler를 설치하십시오.
• 이 repo를 로컬로 클론하십시오 : git clone https://github.com/omarsar/nlp_overview.git
• cd nlp_overview 사용하여 Repo 폴더로 이동하십시오
• Jekyll : bundle install 설치하십시오
• Jekyll 사이트를 로컬로 운영하십시오 : bundle exec jekyll serve
• http://localhost:4000 브라우저에서 미리보기 사이트

유지

이 프로젝트는 Elvis Saravia와 Soujanya Poria에 의해 유지됩니다. 직접 의견이나 질문이 있으면 트위터에서 저를 찾을 수도 있습니다. 이 프로젝트의 주요 부분은 Young et al.의 작업에서 직접 차용되었습니다. (2017). 우리는 저자들에게 감사합니다.