เริ่มต้นด้วยการประมวลผลภาษาธรรมชาติที่ใช้หม้อแปลง (NLP)
การประมวลผลภาษาธรรมชาติด้วยหม้อแปลง วัตถุที่โครงการนี้คือ:
- ผู้เริ่มต้น NLP ผู้เริ่มต้นหม้อแปลง
- มีการเขียนโปรแกรมพื้นฐานบางอย่างของ Python และ Pytorch
- สนใจรุ่นหม้อแปลงที่ทันสมัย
- เข้าใจและรู้จักรูปแบบการเรียนรู้ลึกที่เรียบง่าย
วิสัยทัศน์ของโครงการนี้คือ:
เราหวังว่าจะรวมคำอธิบายที่ชัดเจนของหลักการและโครงการเชิงปฏิบัติหลายอย่างเพื่อช่วยให้ผู้เริ่มต้นเริ่มต้นด้วย NLP อย่างรวดเร็วในยุคการเรียนรู้ลึก
วัสดุอ้างอิงหลักสำหรับโครงการนี้คือ:
- HuggingFace/Transformers Code Library
- หม้อแปลงที่ยอดเยี่ยมมากมายอธิบายและแบ่งปัน
สมาชิกโครงการ:
- Erenup (Duoduo Notes), มหาวิทยาลัยปักกิ่ง, บุคคลที่รับผิดชอบ
- Zhang Fan, Datawhale, Tianjin University, บทที่ 4
- จางเซียน, สถาบันเทคโนโลยีฮาร์บิน, บทที่ 2
- Li Liqiu, มหาวิทยาลัยเจ้อเจียง, บทที่ 3
- Cai Jie, Peking University, บทที่ 4
- Hlzhang, McGill University, บทที่ 4
- ไต้หวัน Yunpeng บทที่ 2
- บทที่ 2 ของ Zhang Hongxu
โครงการนี้ได้สรุปและศึกษาเอกสารและการแบ่งปันที่ยอดเยี่ยมมากมายและได้ทำเครื่องหมายแหล่งที่มาในแต่ละบท หากมีการละเมิดใด ๆ โปรดติดต่อสมาชิกโครงการในเวลา ขอบคุณ ไปที่ GitHub และคลิก Star และเรียนรู้เพิ่มเติมด้วยความพยายามครึ่งหนึ่ง? ขอบคุณ
เนื้อหาโครงการ
บทที่ 1 - คำนำ
- 1.0-local การอ่านและรหัสการเรียกใช้สภาพแวดล้อมการกำหนดค่า md
- 1.1- การเพิ่มขึ้นของหม้อแปลงใน NLP
บทที่ 2 หลักการที่เกี่ยวข้องกับหม้อแปลง
- 2.1 ความสนใจ
- 2.2- กราฟิกหม้อแปลง
- 2.2.1-Pytorch Writing Transformer.md
- 2.2.2-Pytorch การเขียน Transformer-optional Reading.md
- 2.3 เบิร์ต
- 2.4 กราฟิก GPT
- 2.5- บททดสอบ
บทที่ 3 - เขียนโมเดลหม้อแปลง: เบิร์ต
- 3.1 ถึงการใช้เบิร์ต
- 3.2- จะใช้เบิร์ต
- 3.3- บททดสอบ
บทที่ 4 - ใช้หม้อแปลงเพื่อแก้ปัญหา NLP
- 4.0-foreword
- การจำแนกประเภท 4.1 ข้อความ
- การติดฉลาก 4.2 ลำดับ
- 4.3-Q & A Q&A
- 4.4-Q & A คำถามและคำตอบทางเลือกงาน
- โมเดลภาษางาน 4.5 รุ่น
- การแปลเครื่องจักรงาน 4.6 รุ่น
- การสร้างงานและการขยายงานของงาน 4.7
- 4.8- บททดสอบ