Dive into DL PyTorch

โครงการนี้เปลี่ยนการใช้รหัส MXNET ในหนังสือต้นฉบับ ผู้เขียนหนังสือต้นฉบับ: Aston Zhang, Li Mu, Zachary C. Lipton, Alexander J. Smora และผู้สนับสนุนชุมชนอื่น ๆ ที่อยู่ GitHub: https://github.com/d2l-ai/d2l-zhub

หนังสือเล่มนี้มีความแตกต่างในหนังสือเล่มนี้และภาษาอังกฤษ สำหรับ Pytorch refactoring ของเวอร์ชันภาษาอังกฤษของหนังสือเล่มนี้โปรดดูที่โครงการนี้ หนังสือเล่มนี้มีความแตกต่างระหว่างหนังสือเล่มนี้และภาษาอังกฤษ สำหรับการแก้ไข pytorch ของเวอร์ชันภาษาอังกฤษคุณสามารถอ้างถึง repo นี้

การแนะนำ

พื้นที่เก็บข้อมูลนี้ส่วนใหญ่มีสองโฟลเดอร์: รหัสและเอกสาร (รวมถึงข้อมูลบางอย่างถูกเก็บไว้ในข้อมูล) โฟลเดอร์รหัสเป็นรหัสสมุดบันทึก Jupyter ที่เกี่ยวข้องสำหรับแต่ละบท (ขึ้นอยู่กับ pytorch); โฟลเดอร์ DOCS เป็นเนื้อหาที่เกี่ยวข้องในหนังสือ "Hand-On Learning" ในรูปแบบ Markdown จากนั้นใช้ docsify เพื่อปรับใช้เอกสารเว็บไปยังหน้า GitHub เนื่องจากหนังสือต้นฉบับใช้ MXNET Framework เนื้อหาเอกสารอาจแตกต่างจากหนังสือต้นฉบับเล็กน้อย แต่เนื้อหาโดยรวมเหมือนกัน ยินดีต้อนรับการมีส่วนร่วมในโครงการหรือปัญหานี้

สำหรับฝูงชน

โครงการนี้มุ่งเป้าไปที่รองเท้าเด็กที่มีความสนใจในการเรียนรู้อย่างลึกซึ้งโดยเฉพาะผู้ที่ต้องการใช้ Pytorch เพื่อการเรียนรู้อย่างลึกซึ้ง โครงการนี้ไม่ต้องการให้คุณมีความรู้พื้นฐานเกี่ยวกับการเรียนรู้อย่างลึกซึ้งหรือการเรียนรู้ของเครื่อง คุณเพียงแค่ต้องเข้าใจคณิตศาสตร์และการเขียนโปรแกรมขั้นพื้นฐานเช่นพีชคณิตเชิงเส้นพื้นฐานความแตกต่างและความน่าจะเป็นและการเขียนโปรแกรม Python ขั้นพื้นฐาน

วิธีกิน

วิธีที่ 1

ที่เก็บนี้มีสูตร LaTex บางส่วน แต่ Native Markdown ของ GitHub ไม่รองรับการแสดงสูตรและโฟลเดอร์ DOCS ได้ถูกปรับใช้ในหน้า GitHub โดยใช้ docsify ดังนั้นวิธีที่ง่ายที่สุดในการดูเอกสารคือการเข้าถึงเว็บเวอร์ชันของโครงการนี้โดยตรง แน่นอนถ้าคุณยังต้องการเรียกใช้รหัสที่เกี่ยวข้องคุณยังต้องโคลนโครงการและเรียกใช้รหัสที่เกี่ยวข้องในโฟลเดอร์รหัส

วิธีที่ 2

นอกจากนี้คุณยังสามารถเข้าถึงเอกสารในเครื่องและติดตั้งเครื่องมือ docsify-cli ก่อน:

npm i docsify-cli -g

จากนั้นโคลนโครงการในพื้นที่:

git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch

จากนั้นเรียกใช้เซิร์ฟเวอร์ท้องถิ่นเพื่อให้คุณสามารถเข้าถึงเอฟเฟกต์การเรนเดอร์เว็บเอกสารแบบเรียลไทม์ได้ที่ http://localhost:3000

docsify serve docs

วิธีที่ 3

หากคุณไม่ต้องการติดตั้งเครื่องมือ docsify-cli และแม้แต่ Node.js ไม่ได้ติดตั้งบนคอมพิวเตอร์ของคุณและด้วยเหตุผลบางอย่างที่คุณต้องการเรียกดูเอกสารในเครื่องคุณสามารถเรียกใช้บริการเว็บในคอนเทนเนอร์ docker

ก่อนอื่นให้โคลนโครงการนี้ไปยังพื้นที่ท้องถิ่น:

git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch

จากนั้นใช้คำสั่งต่อไปนี้เพื่อสร้างอิมเมจ docker ชื่อ "D2DL":

docker build -t d2dl .

หลังจากสร้างภาพให้เรียกใช้คำสั่งต่อไปนี้เพื่อสร้างคอนเทนเนอร์ใหม่:

docker run -dp 3000:3000 d2dl

ในที่สุดเปิดที่อยู่นี้ http://localhost:3000/#/ ในเบราว์เซอร์ของคุณเพื่อเพลิดเพลินกับการเข้าถึงเอกสาร เหมาะสำหรับผู้ที่ไม่ต้องการติดตั้งเครื่องมือมากเกินไปในคอมพิวเตอร์

สารบัญ

• การแนะนำ
• คู่มือการอ่าน
• 1. บทนำสู่การเรียนรู้อย่างลึกซึ้ง
• 2. ความรู้การเตรียมการ
  • 2.1 การกำหนดค่าสภาพแวดล้อม
  • 2.2 การดำเนินการข้อมูล
  • 2.3 ค้นหาการไล่ระดับสีโดยอัตโนมัติ
• 3. พื้นฐานของการเรียนรู้ลึก
  • 3.1 การถดถอยเชิงเส้น
  • 3.2 การใช้การถดถอยเชิงเส้นตั้งแต่เริ่มต้น
  • 3.3 การใช้การถดถอยเชิงเส้นโดยกระชับ
  • 3.4 การถดถอย Softmax
  • 3.5 ชุดข้อมูลการจำแนกรูปภาพ (Fashion-Mnist)
  • 3.6 การใช้งานการถดถอยของ Softmax ตั้งแต่เริ่มต้น
  • 3.7 การใช้งานการถดถอย SoftMax อย่างง่าย
  • 3.8 เครื่องตรวจจับหลายชั้น
  • 3.9 การใช้งานเครื่องรับรู้หลายชั้นตั้งแต่เริ่มต้น
  • 3.10 การใช้งานเครื่องรับรู้หลายชั้นอย่างง่าย
  • 3.11 การเลือกรุ่น, underfitting และ overfitting
  • 3.12 การสลายตัวของน้ำหนัก
  • 3.13 วิธีการทิ้ง
  • 3.14 การแพร่กระจายไปข้างหน้าการแพร่กระจายกลับและไดอะแกรมการคำนวณ
  • 3.15 ความเสถียรเชิงตัวเลขและการเริ่มต้นแบบจำลอง
  • 3.16 การแข่งขัน Kaggle จริง: การทำนายราคาบ้าน
• 4. คอมพิวเตอร์เรียนรู้ลึก
  • 4.1 การก่อสร้างแบบจำลอง
  • 4.2 การเข้าถึงการเริ่มต้นและการแบ่งปันพารามิเตอร์แบบจำลอง
  • 4.3 การเริ่มต้นล่าช้าของพารามิเตอร์โมเดล
  • 4.4 เลเยอร์ที่กำหนดเอง
  • 4.5 การอ่านและการจัดเก็บ
  • 4.6 การคำนวณ GPU
• 5. เครือข่ายประสาท Convolutional
  • 5.1 เลเยอร์ convolution สองมิติ
  • 5.2 เติมและก้าวย่าง
  • 5.3 ช่องสัญญาณหลายอินพุตและช่องสัญญาณเอาท์พุท
  • 5.4 การรวมเลเยอร์
  • 5.5 เครือข่ายประสาท Convolutional (Lenet)
  • 5.6 เครือข่ายประสาทเชิงลึก (Alexnet)
  • 5.7 เครือข่ายโดยใช้องค์ประกอบซ้ำ (VGG)
  • 5.8 เครือข่ายในเครือข่าย (NIN)
  • 5.9 เครือข่ายที่มีการเชื่อมต่อแบบขนาน (googlenet)
  • 5.10 การทำให้เป็นมาตรฐาน
  • 5.11 เครือข่ายที่เหลือ (resnet)
  • 5.12 Densenet
• 6. เครือข่ายประสาทกำเริบ
  • 6.1 รูปแบบภาษา
  • 6.2 เครือข่ายประสาทกำเริบ
  • 6.3 ชุดข้อมูลโมเดลภาษา (เนื้อเพลงของอัลบั้มของ Jay Chou)
  • 6.4 การใช้งานเครือข่ายประสาทที่เกิดขึ้นอีกตั้งแต่เริ่มต้น
  • 6.5 การใช้งานเครือข่ายประสาทที่เกิดขึ้นใหม่อย่างง่าย
  • 6.6 backpropagation ตลอดเวลา
  • 6.7 หน่วยหมุนเวียนที่มีรั้วรอบขอบชิด (GRU)
  • 6.8 หน่วยความจำระยะสั้นยาว (LSTM)
  • 6.9 เครือข่ายประสาทที่เกิดขึ้นใหม่
  • 6.10 เครือข่ายประสาทแบบสองทิศทาง
• 7. อัลกอริทึมการเพิ่มประสิทธิภาพ
  • 7.1 การเพิ่มประสิทธิภาพและการเรียนรู้อย่างลึกซึ้ง
  • 7.2 การไล่ระดับสีและการไล่ระดับสีแบบสุ่ม
  • 7.3 การไล่ระดับสีแบบสโทแคสติก
  • 7.4 วิธีโมเมนตัม
  • 7.5 อัลกอริทึม Adagrad
  • 7.6 อัลกอริทึม RMSPROP
  • 7.7 อัลกอริทึม Adadelta
  • 7.8 อัลกอริทึมอดัม
• 8. ประสิทธิภาพการคำนวณ
  • 8.1 การเขียนโปรแกรมลูกผสมที่จำเป็นและสัญลักษณ์
  • 8.2 การคำนวณแบบอะซิงโครนัส
  • 8.3 การคำนวณแบบขนานอัตโนมัติ
  • 8.4 การคำนวณหลาย GPU
• 9. วิสัยทัศน์คอมพิวเตอร์
  • 9.1 การเสริมภาพ
  • 9.2 การปรับที่ดี
  • 9.3 การตรวจจับวัตถุและกล่องขอบเขต
  • 9.4 เฟรมสมอเรือ
  • 9.5 การตรวจจับเป้าหมายหลายระดับ
  • 9.6 ชุดข้อมูลการตรวจจับวัตถุ (Pikachu)
  • 9.7 การตรวจจับหลายเฟรมแบบนัดเดียว (SSD)
  • 9.8 ซีรี่ส์ Neural Neural Neural Neural (R-CNN) ระดับภูมิภาค
  • 9.9 การแบ่งส่วนความหมายและชุดข้อมูล
  • 9.10 เครือข่าย Convolutional เต็มรูปแบบ (FCN)
  • 9.11 การโยกย้ายสไตล์
  • 9.12 การแข่งขัน Kaggle เชิงปฏิบัติ: การจำแนกรูปภาพ (CIFAR-10)
  • 9.13 การแข่งขัน Kaggle เชิงปฏิบัติ: การระบุสายพันธุ์สุนัข (Imagenet Dogs)
• 10. การประมวลผลภาษาธรรมชาติ
  • 10.1 การฝังคำ (Word2vec)
  • 10.2 การฝึกอบรมโดยประมาณ
  • 10.3 การใช้งาน Word2Vec
  • 10.4 การฝังคำย่อย (fasttext)
  • 10.5 การฝังคำของเวกเตอร์ทั่วโลก (ถุงมือ)
  • 10.6 ค้นหาคำพ้องความหมายและการเปรียบเทียบ
  • 10.7 การจำแนกอารมณ์ความรู้สึกของข้อความ: การใช้เครือข่ายประสาทอีกครั้ง
  • 10.8 การจำแนกอารมณ์ความรู้สึกของข้อความ: การใช้เครือข่ายประสาทแบบ convolutional (textCNN)
  • 10.9 รหัสเข้ารหัส (SEQ2SEQ)
  • 10.10 การค้นหาพวง
  • 10.11 กลไกความสนใจ
  • 10.12 การแปลของเครื่องจักร

อัปเดตอย่างต่อเนื่อง ...

ที่อยู่หนังสือต้นฉบับ

เวอร์ชันภาษาจีน: เรียนรู้การเรียนรู้อย่างลึกซึ้งในมือ | ที่เก็บ GitHub
เวอร์ชันภาษาอังกฤษ: ดำดิ่งสู่การเรียนรู้ลึก | GitHub repo

อ้าง

หากคุณใช้โครงการนี้ในการวิจัยของคุณโปรดอ้างอิงหนังสือต้นฉบับ:

 @book{zhang2019dive,
    title={Dive into Deep Learning},
    author={Aston Zhang and Zachary C. Lipton and Mu Li and Alexander J. Smola},
    note={url{http://www.d2l.ai}},
    year={2020}
}