awesome DeepLearning

一、项目简介

本项目是飞桨官方出品的一站式深度学习在线百科，飞桨致力于让深度学习技术的创新与应用更简单，更多飞桨内容欢迎访问飞桨官网。本项目内容涵盖：

?课程类：零基础实践深度学习、产业实践深度学习、特色课程、飞桨套件课程汇总资料

?书籍类：《动手学深度学习》飞桨版

?宝典类：深度学习百问、面试宝典

?案例类：飞桨产业实践范例库（包含智慧城市：火灾烟雾检测、 安全帽检测 ；智能制造：钢材缺陷检测 、 机械手抓取；互联网：财报识别与关键字段抽取 等。

从理论到实践，从科研到产业应用，各类学习材料一应俱全，旨在帮助开发者高效地学习和掌握深度学习知识，快速成为AI跨界人才。

• 内容全面：无论您是深度学习初学者，还是资深用户，都可以在本项目中快速获取到需要的学习材料。
• 形式丰富：材料形式多样，包括可在线运行的notebook、视频、书籍、B站直播等，满足您随时随地学习的需求。
• 实时更新：本项目中涉及到的代码均匹配Paddle最新发布版本，开发者可以实时学习最新的深度学习任务实现方案。
• 前沿分享：定期分享顶会最新论文解读和代码复现，开发者可以实时掌握最新的深度学习算法。

如果本项目对您有帮助，欢迎点击网页右上方进行star❤️

---

?‍?我是高校用户

我希望：	我可以学习：
入门深度学习	零基础实践深度学习⤵️、深度学习百问⤵️、动手学深度学习paddle版⤵️
进阶深度学习	产业实践深度学习、深度学习百问⤵️、面试宝典⤵️
趣味深度学习	特色课程⤵️、飞桨产业实践范例库

?‍我是企业用户

我希望：	我可以学习：
入门深度学习	零基础实践深度学习⤵️、深度学习百问⤵️、动手学深度学习paddle版⤵️
进阶深度学习	产业实践深度学习、特色课程⤵️、面试宝典⤵️
实践深度学习	飞桨产业实践范例库、飞桨各产品课程⤵️

---

二、项目内容

课程类

零基础实践深度学习

• AI Studio在线课程：《零基础实践深度学习》：理论和代码结合、实践与平台结合，包含20小时视频课程，由百度杰出架构师、飞桨产品负责人和资深研发人员共同打造。

  
  
  

• 《零基础实践深度学习》书籍：本课程配套书籍，由清华出版社2020年底发行，京东/当当等电商均有销售。

  
  
  

特色课 - Transformer系列

飞桨教育官方出品的Transformer系列内容解读可以参考以下两个平台。

• Transformer原理和实践系列课：https://aistudio.baidu.com/aistudio/education/group/info/24683

• 飞桨教育官方账号：https://aistudio.baidu.com/aistudio/personalcenter/thirdview/908086

领域	章节名称	课程简介	notebook链接
NLP	经典的预训练语言模型(上)-预训练模型发展历史	介绍预训练语言模型的发展历史，word2vec，elmo，bert，gpt，bert一些拓展。	notebook链接
NLP	经典的预训练模型(上)-ELMo	全面详细的介绍ELMo模型结构，优缺点等。	notebook链接
NLP	经典的预训练模型(上)-Transformer	讲解Transformer的基本原理，包括Embedding，self-attention，encoder，decoder，复杂度计算，共享机制等内容。	notebook链接
NLP	经典的预训练模型(下)-GPT	全面详细的介绍GPT的原理，预训练和finetune模式，GPT模型结构，优缺点等。	notebook链接
NLP	经典的预训练模型(下)-BERT	全面详细的介绍BERT的基本原理，预训练任务和fine tune的方式，BERT本身的模型结构，优缺点等。	notebook链接
NLP	预训练模型之自然语言理解-RoBERTa	讲解预训练模型在自然语言理解方面的改进--RoBERTa	notebook链接
NLP	预训练模型之自然语言理解-ERNIE	讲解预训练模型之自然语言理解的改进：ERNIE	notebook链接
NLP	预训练模型之自然语言理解-KBERT	讲解预训练模型之自然语言理解的改进：KBERT	notebook链接
NLP	预训练模型之自然语言理解-THU-ERNIE	讲解预训练模型之自然语言理解的改进：THU-ERNIE	notebook链接
NLP	预训练模型之长序列建模-Transformer-XL	讲解预训练模型之长序列建模的改进：Transformer-XL	notebook链接
NLP	预训练模型之长序列建模-XLNet	讲解自然语言理解之长序列建模的改进：XLNet	notebook链接
NLP	预训练模型之长序列建模-Longformer	讲解预训练模型之长序列建模的改进：Longformer	notebook链接
模型优化	预训练模型-高效结构	基于ELECTRA的标点符号预测	notebook链接
模型优化	预训练模型-蒸馏	预训练模型蒸馏算法：Patient-KD、DistilBERT、TinyBERT、DynaBERT模型详解，以及使用DynaBERT策略对TinyBERT进行模型蒸馏	notebook链接
CV	图像领域的Transformer-Vit,DeiT	详细讲解ViT 以及 DeiT原理	notebook链接
CV	图像领域的Transformer-Swin Transformer	详细讲解Swin Transformer原理	notebook链接
CV	CV领域的Transformer模型DETR在目标检测任务中的应用	详细讲解DETR原理及代码解析	notebook链接

返回⤴️

---

书籍类

《动手学深度学习》paddle版

本项目将《动手学深度学习》原书中MXNet代码实现改为PaddlePaddle实现。原书作者：阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者，GitHub地址：https://github.com/d2l-ai/d2l-zh。

本项目面向对深度学习感兴趣，尤其是想使用PaddlePaddle进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识，你只需了解基础的数学和编程，如基础的线性代数、微分和概率，以及基础的Python编程。

返回[:arrow_heading_up:](#0)

---

宝典类

深度学习百问

深度学习百问内容包含深度学习基础篇、深度学习进阶篇、深度学习应用篇、强化学习篇以及面试宝典，详细信息请参阅Paddle知识点文档平台。

• 深度学习基础篇

  1. 深度学习

  2. 卷积神经网络

  3. 序列模型

• 深度学习进阶篇

  1. 预训练模型
  2. 对抗神经网络

• 深度学习应用篇

  1. 计算机视觉
  2. 自然语言处理
  3. 推荐系统

• 产业实践篇

  1. 模型压缩
  2. 模型部署

• 强化学习篇

  1. 强化学习

• 面试宝典

  1. 深度学习基础常见面试题
  2. 卷积模型常见面试题
  3. 预训练模型常见面试题
  4. 对抗神经网络常见面试题
  5. 计算机视觉常见面试题
  6. 自然语言处理常见面试题
  7. 推荐系统常见面试题
  8. 模型压缩常见面试题
  9. 强化学习常见面试题

返回⤴️

---

案例类

飞桨应用案例集

领域	产业案例	来源	更多内容
智能工业	厂区传统仪表统计监测	飞桨官方	更多飞桨案例
智能工业	新能源汽车锂电池隔膜质检	飞桨官方	更多飞桨案例
智能工业	天池铝材表面缺陷检测	飞桨官方	更多飞桨案例
智能工业	安全帽检测	飞桨官方	更多飞桨案例
智慧城市	高尔夫球场遥感监测	飞桨官方	更多飞桨案例
智慧城市	积雪语义分割	飞桨官方	更多飞桨案例
智慧城市	戴口罩的人脸识别	飞桨官方	更多飞桨案例
智慧交通	车道线分割和红绿灯安全检测	飞桨官方	更多飞桨案例
智慧交通	【PaddleDetection2.0专项】PP-YOLOv2	飞桨PaddleDet	更多paddleDet案例
智慧交通	PaddleX助力无人驾驶（基于YOLOv3的车辆检测和车道线分割）	开发者BIT可达鸭	更多飞桨案例
智慧交通	eblite_标志物检测	开发者TobeWell	更多飞桨案例
智慧交通	PaddleOCR: 车牌识别	飞桨开发者寂寞你快进去	更多飞桨案例
智慧农林	耕地地块识别	飞桨官方	更多飞桨案例
智慧农林	AI识虫	飞桨官方	更多飞桨案例
智慧农林	更快更强！ 高效快速的PP-YOLO实战演练	飞桨PaddleDet	更多paddleDet案例
智慧农林	PaddleX快速上手-Faster RCNN目标检测	飞桨PaddleX	更多PaddleX案例
智慧农林	AI识虫检测分享	开发者aaaLKgo	更多飞桨案例
智慧农林	基于PaddleX实现森林火灾监测	飞桨官方	更多飞桨案例
智慧医疗	医学常见中草药分类	飞桨官方	更多飞桨案例
智慧医疗	眼疾识别	飞桨官方	更多飞桨案例
智慧医疗	基于Paddle的肝脏CT影像分割	开发者代码生成器	更多飞桨案例
智慧医疗	PaddleHub 肺炎CT影像分析	飞桨PaddleHub	更多PaddleHub案例
智慧医疗	基于飞桨PGL的高致病性传染病的传播趋势预测基线系统	飞桨官方	更多飞桨案例
其他	人摔倒检测	开发者Niki_173	该开发者更多案例
其他	足球比赛动作定位	飞桨官方	更多飞桨案例
其他	基于强化学习的飞行器仿真	飞桨官方	更多飞桨案例
其他	基于ERNIE-Gram实现语义匹配	飞桨官方	更多飞桨案例
其他	『NLP打卡营』实践课5：文本情感分析	飞桨PaddleNLP	更多飞桨PaddleNLP案例
其他	『NLP经典项目集』03：利用情感分析选择年夜饭	飞桨PaddleNLP	更多飞桨PaddleNLP案例
其他	分类任务：如何在客服对话中，识别客户情绪的好坏	开发者中大bbking	更多飞桨案例
其他	『NLP打卡营』实践课3：使用预训练模型实现快递单信息抽取	飞桨PaddleNLP	更多飞桨PaddleNLP案例
其他	发愁七夕文案？PaddleHub情话生成送给你 (文内含七夕抽奖)	飞桨PaddleHub	更多PaddleHub案例
其他	基于PaddleDetection的PCB瑕疵检测	飞桨官方	更多飞桨案例
其他	基于百度飞桨的单/多镜头行人追踪（非官方Baseline）	开发者BIT可达鸭	更多飞桨案例
其他	PaddleLite树莓派从0到1：安全帽检测小车部署（一）	开发者深渊上的炕	更多飞桨案例
其他	PaddleX、PP-Yolo：手把手教你训练、加密、部署目标检测模型	开发者深渊上的炕	更多飞桨案例
其他	中文语音识别	飞桨官方	更多飞桨案例
其他	PaddleHub一键OCR中文识别(超轻量8.1M模型，火爆)	飞桨官方	更多飞桨案例
其他	老北京城影像修复	飞桨PaddleGAN	更多PaddleGAN案例
其他	飞桨创意之星 宋代诗人念诗的秘密——PaddleGAN实现精准唇形合成	飞桨官方	更多飞桨案例
其他	通过OCR实现验证码识别	飞桨官方	更多飞桨案例
其他	PaddleHub一键OCR中文识别（超轻量8.1M模型，火爆）	飞桨PaddleHub	更多PaddleHub案例
其他	全流程，从零搞懂基于PaddlePaddle的图像分割	开发者nanting03	更多飞桨案例
其他	负荷预测0.1	开发者gaomaosheng0	更多飞桨案例
其他	AI 实现皮影戏，传承正在消失的艺术	开发者Zohar	更多飞桨案例
其他	『深度学习7日打卡营』人脸关键点检测	开发者TC.Long	更多飞桨案例
强化学习	DDPG算法应用于股票量化交易	开发者	更多飞桨案例

飞桨学术案例集

技术方向	学术案例	来源	更多内容
机器学习	鸢尾花分类	AIStudio官方	更多飞桨案例
前馈神经网络	波士顿房价预测	开发者AIStudioHelper	更多飞桨案例
图像分类	手写数字识别	AIStudio官方	更多飞桨案例
图像分类	猫狗分类	AIStudio官方	更多飞桨案例
图像分类	图像分类网络VGG在多表情识别任务中的应用	开发者之雍Jerry	更多飞桨案例
图像分类	图像分类-ResNet	开发者笨笨	更多飞桨案例
图像分类	用PaddlePaddle实现图像分类-SE_ResNeXt	AIStudio官方	更多飞桨案例
图像分类	深入理解图像分类中的Transformer-Vit,DeiT	PaddleEdu	更多飞桨案例
图像分类	Swin Transformer	PaddleEdu	更多飞桨案例
图像分类	小样本学习(Few-Shot Learning)	开发者DeepGeGe	更多飞桨案例
图像分割	经典实例分割模型Mask RCNN	AIStudio官方	更多飞桨案例
图像分割	PaddleSeg_DeepLabv3+	飞桨PaddleSeg	更多飞桨案例
图像分割	基于PaddlePaddle的语义分割DeepLabV3+实现	AIStudio官方	更多飞桨案例
图像检测	深度学习进阶-目标检测	AIStudio官方	更多飞桨案例
图像检测	一文详解yolov3目标检测算法	开发者AIStudio96069	更多飞桨案例
图像检测	CV领域的Transformer模型DETR在目标检测任务中的应用	PaddleEdu	更多飞桨案例
视频分类	TSN视频分类	PaddleEdu	更多飞桨案例
视频分类	Paddle2.1实现视频理解经典模型 — TSM	PaddleEdu	更多飞桨案例
视频分类	基于Attention和Bi-LSTM实现视频分类	PaddleEdu	更多飞桨案例
视频分类	CV领域的Transformer模型TimeSformer实视频理解	PaddleEdu	更多飞桨案例
GAN	一文搞懂生成对抗网络之经典GAN（动态图、VisualDL2.0）	开发者FutureSI	更多飞桨案例
GAN	基于PaddlePaddle的StarGAN,AttGAN,STGAN算法	AIStudio官方	更多飞桨案例
OCR	文字识别-CRNN	开发者哦吼	更多飞桨案例
NLP	基于ERNIE实现9项GLUE任务	PaddleEdu	更多飞桨案例
NLP	NLP领域的XLNet模型在情感分析中的应用	PaddleEdu	更多飞桨案例
NLP	NLP领域中的ERNIE模型在阅读理解中的应用	PaddleEdu	更多飞桨案例
NLP	NLP领域的ELECTRA在符号预测上的应用	PaddleEdu	更多飞桨案例
NLP	NLP领域的Transformer在机器翻译上的应用	PaddleEdu	更多飞桨案例
NLP	【Paddle打比赛】讯飞赛题—中文问题相似度挑战赛0.9+Baseline	PaddleEdu	更多飞桨案例
NLP	用PaddlePaddle实现BERT	AIStudio官方	更多飞桨案例
多模态	【Paddle CLIP】你写啥他画啥，一个专属于你的小画家	PaddleFleet	更多飞桨案例
强化学习	从代码到论文理解并复现MADDPG算法(PARL)	开发者Mr.郑先生_	更多飞桨案例
推荐	[基于DeepFM 模型的点击率预估](https://github.com/PaddlePaddle/awesome-DeepLearning/tree/master/examples/DeepFM for CTR Prediction)	PaddleEdu	更多飞桨案例
推荐	基于DSSM的电影推荐	AIStudio官方	更多飞桨案例
知识蒸馏	基于CIFAR100的SSLD蒸馏实验	PaddleClas	更多飞桨案例

返回⤴️

---

竞赛类

领域	竞赛案例	来源	介绍
机器学习	【Paddle打比赛】个贷违约预测Baseline+ 0.607	开发者w5688414	DataFountain个贷违约预测，参考官方的baseline并用paddle进行改进
NLP	【Paddle打比赛】讯飞赛题—中文问题相似度挑战赛0.9+Baseline	PaddleEdu	中文问题相似度挑战赛paddle版本Baseline，基于paddlenlp通过预训练模型的微调完成问题相似度评定任务
NLP	基于PaddleHub的疫情期间网民情绪识别	开发者CChan	本项目为疫情期间网民情绪识别比赛的解决方案。使用了PaddleHub和ERNIE实现对疫情期间微博文本的情绪识别。
NLP	【Paddle打比赛】产品评论观点提取竞赛baseline	开发者w5688414	DataFountain基于BERT的产品评论观点提取竞赛baseline，增加了优化方法
NLP	【Paddle打比赛】剧本角色情感识别baseline-精度0.676	开发者w5688414	剧本角色情感识别baseline，使用bert模型
语音	【Paddle打比赛】语音合成	开发者XYZ_916	2021 新网银行智能语音大赛baseline。截止2021.11.17，该方案在总分榜第一，作品榜第二
CV	中文场景文字识别挑战赛baseline	小度AIStudio	中文场景文字识别挑战赛的baseline项目, 用于参赛选手借鉴参考
CV	【Paddle打比赛】手写字体OCR识别竞赛baseline	开发者Pink peach	2021世界人工智能创新大赛，手写字体OCR识别竞赛baseline
CV	2020 CCF BDCI: 遥感影像地块分割baseline	开发者lxastro	2020 CCF BDCI: 遥感影像地块分割的baseline模型库，包括baseline模型的训练方法和比赛的评测脚本。
CV	第三届中国AI+创新创业大赛：半监督学习目标定位竞赛第1名方案	开发者张牙舞爪	半监督学习目标定位竞赛第一名方案分享 A榜得分0.81425 B榜得分0.80428
数据挖掘	【Padddle打比赛】心电图智能诊断竞赛Baseline-0.6765	开发者w5688414	AIWIN 心电图智能诊断竞赛

返回​⤴️

汇总

飞桨各产品学习资料汇总

产品	视频课程	学习文档
PaddleGAN	生成对抗网络七日打卡营
PaddleOCR	OCR自动标注小工具讲解、3.5M超轻量实用OCR模型解读、OCR应用与部署实战
PaddleClas	PaddleClas系列直播课
PaddleDetection	目标检测7日打卡营
PaddleX	PaddleX实例分割任务详解、PaddleX目标检测任务详解、PaddleX语义分割任务详解、PaddleX图像分类任务详解、PaddleX客户端操作指南、飞桨全流程开发工具PaddleX
PaddleHub	手把手教你转换PaddleHub模型教程
VDL	可视化分析工具助力AI算法快速开发、深度学习算法可视化调优实战演示
高层API	高层API助你快速上手深度学习
PaddleNLP	基于深度学习的自然语言处理

返回​⤴️

三、技术交流

非常感谢您使用本项目。您在使用过程中有任何建议或意见，可以在 Issue 上反馈给我们，也可以通过扫描下方的二维码联系我们，飞桨的开发人员非常高兴能够帮助到您，并与您进行更深入的交流和技术探讨。

四、许可证书

本项目的发布受Apache 2.0 license许可认证。

五、贡献内容

本项目的不断成熟离不开各位开发者的贡献，如果您对深度学习知识分享感兴趣，非常欢迎您能贡献给我们，让更多的开发者受益。

本项目欢迎任何贡献和建议，大多数贡献都需要你同意参与者许可协议（CLA）来声明你有权并实际上授权我们可以使用你的贡献。

代码贡献规范

pip install pre-commit

pre-commit install

添加修改的代码后，对修改的文件进行代码规范，pre-commit 会自动调整代码格式，执行一次即可，后续commit不需要再执行。提交pr流程，详见：awesome-DeepLearning 提交 pull request 流程。

贡献者

以下是awesome-DeepLearning贡献者列表： yang zhou，Niki_173，Twelveeee，buriedms，AqourAreA，zhangjin12138，rerny，LiuCongNLP，LemonCherryFu, lutianhao