Начало работы с обработкой естественного языка на основе трансформаций (NLP)
Обработка естественного языка с трансформаторами. Объекты, которые этот проект:
- Новички NLP, новички трансформатора
- Иметь определенное базовое программирование Python и Pytorch
- Заинтересован в передовых моделях трансформаторов
- Понимать и знать простые модели глубокого обучения
Видение этого проекта:
Мы надеемся объединить яркие объяснения принципов и многочисленных практических практических проектов, чтобы помочь новичкам быстро начать с NLP в эпоху глубокого обучения.
Основными эталонными материалами для этого проекта являются:
- Библиотека кодов HuggingFace/Transformers
- Многие отличные трансформаторы объясняют и делятся
Члены проекта:
- Erenup (Duoduo Примечания), Пекинский университет, ответственный человек
- Чжан Фан, Датавхале, Университет Тяньцзинь, глава 4
- Чжан Сянь, Технологический институт Харбина, глава 2
- Ли Лициу, Университет Чжэцзян, глава 3
- Cai Jie, Peking University, глава 4
- Хлзанг, Университет Макгилла, глава 4
- Тайвань Юнпенг Глава 2
- ГЛАВА 2 Чжан Хонгсу
Этот проект суммировал и изучил много отличных документов и обмена, и имеет отмеченные источники в каждой главе. Если есть какие -либо нарушения, пожалуйста, свяжитесь с членами проекта вовремя. Спасибо. Перейдите в GitHub и нажмите «Звезд» и узнайте больше с половиной усилий? Спасибо.
Контент проекта
Глава 1 - Предисловие
- 1,0-локальный чтение и кодовой конфигурация среды. МД
- 1.1-Повышение трансформаторов в НЛП
Глава 2 Принципы трансформатора
- 2.1-иллюстрированное внимание
- 2.2- Графический трансформатор
- 2.2.1 Pytorch Письменная трансформатор.md
- 2.2.2 Письменная писательская трансформационная чтение.
- 2,3-иллюстрированный Берт
- 2.4-графический GPT
- 2,5-часовой тест
Глава 3 - Напишите модель трансформатора: Bert
- 3.1-How для реализации BERT
- 3.2-How, чтобы применить берт
- 3,3-чапотер тест
Глава 4 - Используйте трансформаторы для решения NLP -задач
- 4.0-Proforword
- 4.1-текстовая классификация
- 4.2-последовательная маркировка
- 4.3-Q & A qustracted Q & A
- 4.4-Q & A A Task-Multiple Вопросы и ответы.
- 4.5-граничатная модель на языке задач
- 4.6 Генерационный перевод задач
- 4.7 Generate Task-Summary Generation
- 4.8-глава теста