pytorch tutorials examples and books

บทช่วยสอนและหนังสือ Pytorch

สารบัญ / เนื้อหา:

• บทช่วยสอนและหนังสือ Pytorch
  • สารบัญ / เนื้อหา:
  • Pytorch 1.x บทช่วยสอนและตัวอย่าง
  • หนังสือและสไลด์เกี่ยวกับหนังสือ pytorch, ppts ฯลฯ
  • นี่คือบทเรียนอิสระบางอย่าง
    • 1) Pytorch การเรียนรู้ลึก: 60 นาทีของการแนะนำและการต่อสู้เชิงปฏิบัติ
    • 2) การเรียนรู้ pytorch พร้อมตัวอย่างการเรียนรู้ pytorch
  • วิธีการวิ่ง? วิธีการเรียกใช้ที่แนะนำ

Pytorch 1.x บทช่วยสอนและตัวอย่าง

• 0.Pytorch Version Change and Migration Guide
• 1.pytorch_for_numpy_users คู่มือ pytorch สำหรับผู้ใช้ numpy
• 2.pytorch_basics Pytorch Basics
• 3. linear_regression การถดถอยเชิงเส้น
• 4. logistic_regression การถดถอยโลจิสติก
• 5. optimizer optimizer
• 6. Neural_network Neural Network
• 7. convolutional_neural_network (CNN) เครือข่ายประสาท
• 8. FAMOUS_CNN เครือข่าย CNN คลาสสิก
• 9.using_pretrained_models โดยใช้โมเดลที่ผ่านการฝึกอบรมมาก่อน
• 10.dataset_and_dataloader การอ่านข้อมูลที่กำหนดเอง
• 11.custom_dataset_example กำหนดชุดข้อมูลของคุณเอง
• 12.Visdom_Visualization Visdom การแสดงภาพ
• 13.TenSorboard_Visualization Tensorboard การสร้างภาพข้อมูล
• 14. การแบ่งส่วนความหมาย semantic_segmentation
• 15. transfer_learning การเรียนรู้การเรียนรู้
• 16. neural_style (styletransfer) การถ่ายโอนสไตล์
• A. การมองเห็นคอมพิวเตอร์และ pytorch
  • บทสรุปสั้น ๆ ของ Pytorch และคอมพิวเตอร์วิสัยทัศน์
    • เวอร์ชัน Markdown
    • เวอร์ชันโน๊ตบุ๊ค
• B.Pytorch ภาพรวม

หนังสือและสไลด์เกี่ยวกับหนังสือ pytorch, ppts ฯลฯ

หมายเหตุ: บางส่วนเป็นเวอร์ชั่นเก่า ส่วนหนังสือต่อไปนี้ไม่ใช่เวอร์ชัน 1.x

อาจมีความล่าช้าในการอัปเดตไดเรกทอรีนี้ โปรดดูไฟล์ในโฟลเดอร์นี้สำหรับข้อมูลทั้งหมด

• ความแตกต่างอัตโนมัติใน pytorch.pdf
• สรุปสั้น ๆ ของ PTDC '18 Pytorch 1.0 Preview และสัญญา - Hacker Noon.pdf
• Deep Architectures.pdf
• สถาปัตยกรรมลึก. ppptx
• ชุดเครื่องมือการเรียนรู้ลึก ii pytorch ตัวอย่าง. pdf
• การเรียนรู้อย่างลึกซึ้งกับ Pytorch - Vishnu Subramanian.pdf
• การเรียนรู้อย่างลึก
• deep_learning_with_pytorch_quick_start_guide.pdf
• ขั้นตอนแรกสู่การเรียนรู้อย่างลึกซึ้งกับ pytorch.pdf
• รู้เบื้องต้นเกี่ยวกับเทนเซอร์ fl ow, pytorch และ caffe.pdf
• Pytorch 0.4 - บทช่วยสอน - Directory Version.pdf
• Pytorch 0.4 เอกสารภาษาจีน - translation.pdf
• Pytorch 1.0 นำการวิจัยและการผลิตร่วมกันนำเสนอ. pdf
• สูตร Pytorch - วิธีการแก้ปัญหา - Pradeepta mishra.pdf
• Pytorch ภายใต้ฮูดคู่มือเพื่อทำความเข้าใจ pytorch internals.pdf
• pytorch-internals.pdf
• pytorch_tutorial_0.0.4_yu tingsong.pdf
• pytorch_tutorial_0.0.5_yu tingsong.pdf
• Pytorch Convolution, Deconvolution - ดาวน์โหลดจาก internet.pdf
• Pytorch การเรียนรู้เชิงลึกฝึกหัด yijun.epub
• Pytorch การเรียนรู้การเรียนรู้ลึก-yijun.pdf
• การเรียนรู้ลึก pytorch - liao xingyu.pdf
• การเรียนรู้อย่างลึกซึ้ง pytorch ใช้ประโยชน์จากคอมพิวเตอร์วิสัยทัศน์ tang-tang jinmin.pdf
• Pytorch สำหรับผู้เริ่มต้นในการเรียนรู้ลึก - Liao Xingyu (พร้อมแคตตาล็อก) .pdf
• กรอบการเรียนรู้ลึก Pytorch: การเริ่มต้นและฝึกฝน - Chen Yun.pdf
• Udacity: การเรียนรู้อย่างลึกซึ้งกับ Pytorch
  ขยายเพื่อดู

   * ตอนที่ 1: บทนำสู่ Pytorch และการใช้เทนเซอร์
  * ตอนที่ 2: การสร้างเครือข่ายประสาทที่เชื่อมต่ออย่างเต็มที่ด้วย pytorch
  * ตอนที่ 3: วิธีการฝึกอบรมเครือข่ายที่เชื่อมต่อเต็มรูปแบบด้วย backpropagation บน MNIST
  * ตอนที่ 4: การออกกำลังกาย - ฝึกอบรมเครือข่ายประสาทในแฟชั่น - นิสต์
  * ตอนที่ 5: การใช้เครือข่ายที่ผ่านการฝึกอบรมสำหรับการทำนายและการตรวจสอบความถูกต้องของเครือข่าย
  * ตอนที่ 6: วิธีการบันทึกและโหลดโมเดลที่ผ่านการฝึกอบรม
  * ตอนที่ 7: โหลดข้อมูลภาพด้วย Torchvision รวมถึงการเพิ่มข้อมูล
  * ตอนที่ 8: ใช้การถ่ายโอนการเรียนรู้เพื่อฝึกอบรมตัวจําแนกภาพที่ทันสมัยสำหรับสุนัขและแมว
    

• Pytorch-Zero-to-all: Slides-newest จาก Google Drive
  ขยายเพื่อดู

   *Lecture 01_ overview.pptx
  *บรรยาย 02_ model.ptx
  *การบรรยาย 03_ descent.ptx
  *การบรรยาย 04_ การแพร่กระจายกลับและ pytorch autograd.pptx
  *การบรรยาย 05_ การถดถอยเชิงเส้นใน pytorch way.pptx
  *การบรรยาย 06_ การถดถอยโลจิสติก. ppptx
  *บรรยาย 07_ กว้าง _ deep.pptx
  *บรรยาย 08_dataloader.pptx
  *บรรยาย 09_ softmax classifier.pptx
  *บรรยาย 10_ พื้นฐาน cnn.pptx
  *บรรยาย 11_ Advanced CNN.pptx
  *บรรยาย 12_ rnn.pptx
  *บรรยาย 13_ rnn ii.pptx
  *บรรยาย 14_ seq2seq.pptx
  *การบรรยาย 15_ NSML, แพลตฟอร์ม ML ที่ฉลาดที่สุด
    

• สไลด์หลักสูตรการเรียนรู้ลึกและเอกสารแจก - fleuret.org
  ขยายเพื่อดู

   * 1-1 จาก Anns-to-deep-learning.pdf
  * 1-2-current-success.pdf
  * 1-3- What-is-happening.pdf
  * 1-4-tensors และ linear-regression.pdf
  * 1-5-dimensional-tensors.pdf
  * 1-6-tensor-internals.pdf
  * 2-1-loss-and-pdf.pdf
  * 2-2-overfitting.pdf
  * 2-3-bias-variance-dilemma.pdf
  * 2-4-Evaluation-protocols.pdf
  * 2-5-basic-embeddings.pdf
  * 3-1-perceptron.pdf
  * 3-2-lda.pdf
  * 3-3-features.pdf
  * 3-4-mlp.pdf
  * 3-5-gradient-descent.pdf
  * 3-6-backprop.pdf
  * 4-1-dag-networks.pdf
  * 4-2-autograd.pdf
  * 4-3 โมดูลและการประมวลผลแบทช์. pdf
  * 4-4-convolutions.pdf
  * 4-5-pooling.pdf
  * 4-6-writing-a-module.pdf
  * 5-1-cross-entropy-loss.pdf
  * 5-2-sgd.pdf
  * 5-3-optim.pdf
  * 5-4-l2-l1-penalties.pdf
  * 5-5-initialization.pdf
  * 5-6-architecture-and-training.pdf
  * 5-7-writing-an-autograd-function.pdf
  * 6-1-benefits-of-depth.pdf
  * 6-2 rectifiers.pdf
  * 6-3-ropout.pdf
  * 6-4-batch-normalization.pdf
  * 6-5-residual-networks.pdf
  * 6-6-using-gpus.pdf
  * 7-1-cv-tasks.pdf
  * 7-2-image-classification.pdf
  * 7-3-Object-detection.pdf
  * 7-4-segmentation.pdf
  * 7-5-dataloader-and-surgery.pdf
  * 8-1 ดู-at-parameters.pdf
  * 8-2 look-at-activations.pdf
  * 8-3-visualizing-in-input.pdf
  * 8-4-optimizing-inputs.pdf
  * 9-1-transposed-convolutions.pdf
  * 9-2-autoencoders.pdf
  * 9-3-denoising-and-variational-autoencoders.pdf
  * 9-4-nvp.pdf
  * 10-1-gan.pdf
  * 10-2-wasserstein-gan.pdf
  * 10-3-conditional-gan.pdf
  * 10-4-persistence.pdf
  * 11-1-rnn-basics.pdf
  * 11-2-lstm-andgru.pdf
  * 11-3-word-embeddings-and-translation.pdf
    

นี่คือบทเรียนอิสระบางอย่าง

1) Pytorch การเรียนรู้ลึก: 60 นาทีของการแนะนำและการต่อสู้เชิงปฏิบัติ

ขยายเพื่อดู

Pytorch คืออะไร? (Pytorch คืออะไร?)

เริ่มต้น

เทนเซอร์
การดำเนินการ


สะพาน Numpy

แปลงเทนเซอร์ของ Torch เป็นอาร์เรย์ numpy
แปลง Numpy Array เป็น Torch Tensor


เทนเซอร์บน cuda



Autograd: ค้นหาคำแนะนำโดยอัตโนมัติ

เทนเซอร์
การไล่ระดับสี



เครือข่ายประสาท

กำหนดเครือข่าย
ฟังก์ชันการสูญเสีย
การแบก
อัปเดตน้ำหนัก



การฝึกอบรม

ข้อมูลอยู่ที่ไหน
การฝึกอบรมตัวจําแนกรูปภาพ

1. โหลดและสร้างมาตรฐาน CIFAR10
2. กำหนดเครือข่ายประสาท Convolutional
3. กำหนดฟังก์ชั่นการสูญเสียและ optimizers
4. การฝึกอบรมเครือข่าย
5. ใช้ข้อมูลทดสอบเพื่อทดสอบเครือข่าย


การฝึกอบรมเกี่ยวกับ GPU
การฝึกอบรมเกี่ยวกับ GPU หลายตัว
จะทำอย่างไรต่อไป?



ตัวเลือก: Data Parallelism

นำเข้าและพารามิเตอร์
ชุดข้อมูลเสมือนจริง
แบบง่ายๆ
สร้างโมเดลและข้อมูลแบบขนาน
เรียกใช้โมเดล
ผลลัพธ์

2 GPU
3 GPU
8 GPU


สรุป

2) การเรียนรู้ pytorch พร้อมตัวอย่างการเรียนรู้ pytorch

ขยายเพื่อดู

เทนเซอร์

อุ่นเครื่อง: ใช้ numpy
Pytorch: Tensors



Derivation อัตโนมัติ (Autograd)

Pytorch: Derivation อัตโนมัติ (Autograd)
Pytorch: กำหนดฟังก์ชั่นอนุพันธ์อัตโนมัติของคุณเอง
tensorflow: กราฟคงที่



โมดูล nn (โมดูล nn )

Pytorch: Neural Network Module NN
Pytorch: ปรับโมดูลให้เหมาะสมที่สุด
Pytorch: โมดูล Neural Net
Pytorch: การควบคุมการไหลและการแชร์พารามิเตอร์

วิธีการวิ่ง? วิธีการเรียกใช้ที่แนะนำ

รหัสบางส่วนใน repo นี้ถูกคั่นด้วยบล็อกโดยใช้ #%% บล็อกเหมือนกับเซลล์ใน Jupyter Notebook ดังนั้นจึงแนะนำให้แก้ไข/ides ที่สนับสนุนฟังก์ชั่นนี้

เช่น:

• VSCODE พร้อมส่วนขยาย Microsoft Python
• Spyder กับ Anaconda
• pycharm