dliss tutorial
1.0.0
폴란드 Gdansk에서 2019 년 딥 러닝에 관한 국제 여름 학교 튜토리얼
https://docs.google.com/presentation/d/1dji1yx4u5igapgwavt0amoclwwso7ou1un93smuawma/
이 튜토리얼에는 현재 3 개의 실습 섹션이 있습니다.
첫 번째 섹션은 미리 훈련 된 단어 임베딩 (colab)을 다룹니다.
두 번째 섹션은 미리 훈련 된 상황에 맞는 emeddings (colab)를 다룹니다.
세 번째 섹션은 미리 훈련 된 모델 (Colab)을 미세 조정하는 것을 다룹니다.
2022 년 4 월 , 처음부터 다양한 변압기 아키텍처를 구축하는 방법에 관심이 있으시면 몇 가지 인기있는 변압기 모델의 심층적 인 세부 사항과 전체 구현이 포함 된 새로운 튜토리얼 세트가 있습니다. 그들은 단계별로 모델을 구축하는 방법, 프리 트레인 방법 및 다운 스트림 작업에 사용하는 방법을 보여줍니다. 함께 한 튜토리얼 조각이 포함 된 Python 패키지가 함께 제공됩니다.
2020 년 7 월 저는이 자습서에서 참조되는 Mead를 사용하여 일련의 Colab 튜토리얼을 게시했습니다. 이 새로운 노트북 세트는 분류 및 태거를위한 전송 학습 및 TPU와 함께 Mead API를 사용하여 트랜스포머 기반 모델을 처음부터 훈련하는 것을 포함하여 유사한 자료를 다룹니다. MEAD는 간단한 YAML 구성을 사용하여 NLP 용 많은 강력한 모델을 쉽게 훈련시킬 수 있으며 강한 기준선과 비교하면서 새로운 모델로 코드를 쉽게 확장 할 수 있습니다!
