Transformers 기반 자연 언어 처리 (NLP)를 시작
변압기를 사용한 자연어 가공. 이 프로젝트의 개체는 다음과 같습니다.
- NLP 초보자, 변압기 초보자
- Python 및 Pytorch의 특정 기본 프로그래밍을 보유하십시오
- 최첨단 변압기 모델에 관심이 있습니다
- 간단한 딥 러닝 모델을 이해하고 알고 알고 있습니다
이 프로젝트의 비전은 다음과 같습니다.
우리는 딥 러닝 시대에 초보자가 NLP를 신속하게 시작하도록 돕기 위해 원칙과 여러 실무 프로젝트에 대한 생생한 설명을 결합하기를 희망합니다.
이 프로젝트의 주요 참조 자료는 다음과 같습니다.
- Huggingface/Transformers 코드 라이브러리
- 많은 우수한 변압기가 설명하고 공유합니다
프로젝트 회원 :
- Peking University, Erenup (Duoduo Notes), 담당자
- Zhang Fan, Tianjin University, Datawhale, 4 장
- Zhang Xian, Harbin Institute of Technology, 2 장
- Zhejiang University, Li Liqiu, 3 장
- Cai Jie, Peking University, 4 장
- 맥길 대학교, 힐츠, 4 장
- 대만 Yunpeng 2 장
- Zhang Hongxu의 2 장
이 프로젝트는 많은 우수한 문서와 공유를 요약하고 연구했으며 각 장의 출처를 표시했습니다. 침해가 있으면 프로젝트 회원에게 제 시간에 문의하십시오. 감사합니다. Github로 가서 Star를 클릭하고 절반의 노력으로 더 많은 것을 배우나요? 감사합니다.
프로젝트 내용
1 장 - 서문
- 1.0 로컬 읽기 및 코드 실행 환경 구성 .md
- 1.1- NLP의 변압기 상승
2 장 변압기 관련 원리
- 2.1 릴러스 된주의
- 2.2- 그래픽 변압기
- 2.2.1-Pytorch Writing Transformer.md
- 2.2.2-Pytorch 쓰기 Transformer-Optional Reading.md
- 2.3- 릴러스 버트
- 2.4 그라피 gpt
- 2.5 캡터 테스트
3 장 - 변압기 모델 작성 : Bert
- 3.1- 버트를 구현하려면
- 3.2- 버트를 적용합니다
- 3.3 캡터 테스트
4 장 - 변압기를 사용하여 NLP 작업을 해결하십시오
- 4.0- 전조
- 4.1 텍스트 분류
- 4.2- 시퀀스 라벨링
- 4.3-Q & A 작업 추출 Q & A
- 4.4-Q & A 태스크 다중 선택 질문 및 답변
- 4.5 세대 작업 언어 모델
- 4.6 세대 작업 대기업 번역
- 4.7 세대의 작업-수사 생성
- 4.8 캡터 테스트
