fromthetensor

Du tenseur à la diffusion stable

Inspiré par le transistor.

L'apprentissage automatique est difficile, beaucoup de tutoriels sont difficiles à suivre et il est difficile de comprendre le logiciel 2.0 à partir des premiers principes.

Tu veux être ingénieur ML? Eh bien, voici les étapes pour devenir bon à ce sujet:

1. Télécharger un journal
2. La mettre en œuvre
3. Continuez à faire cela jusqu'à ce que vous ayez des compétences

- George Hotz

Section 1: Intro: tricher notre chemin devant le tenseur - 1 semaine

• Donc, à propos de ces tenseurs - aperçu du cours. Décrivez comment les modèles d'apprentissage en profondeur sont construits à l'aide de tenseurs et comment différentes architectures comme CNNS et RNN utilisent les tenseurs de différentes manières. Comprenez le concept de rétro-propagation et de descente de gradient. [vidéo]

Section 2: Deep Learning: Qu'est-ce que l'apprentissage en profondeur de toute façon? - 1 semaine

• Construire un réseau neuronal simple - votre premier petit programme! Faire fonctionner le modèle et l'apprentissage des bases de l'apprentissage en profondeur. [code] [vidéo]

• Construire un CNN simple - un chapitre d'intro à l'apprentissage en profondeur, apprendre à construire un CNN simple et à comprendre les concepts de convolution et de mise en commun. [code] [vidéo]

• Construire un RNN simple - Apprenez les bases des réseaux de neurones récurrents et comprenez le concept de «mémoire» qui les aide à stocker des états d'intrants précédents. [code] [vidéo]

Section 3: Mise en œuvre des articles (partie 1): Modèles de vision - 3 semaines

• Mise en œuvre de LENET - Renseignez-vous sur l'architecture LENET et son application. [Code] [Papier]

• Implémentation d'Alexnet - Apprenez à implémenter AlexNet pour les tâches de classification d'images. [Code] [Papier]

• Implémentation de Resnet - Apprenez à implémenter Resnet pour les tâches de classification d'images. [Code] [Papier]

• Construire un DCGAN - Apprenez à construire un DCGAN et le concept de formation contradictoire. [Code] [Papier]

Section 4: Mise en œuvre des articles (partie 2): Modèles de langue - 3 semaines

• Implémentation de GRU et LSTM - Renseignez-vous sur les concepts des cellules LSTM et GRU. [Code] [Papier]

• Implémentation de CBOW et Skip-Gram - Renseignez-vous sur l'architecture Word2VEC et son application. [Code] [Papier]

• Construire un transformateur - Renseignez-vous sur l'architecture du transformateur et son application. [Code] [Papier]

• Fonctionner un Bert - en savoir plus sur l'architecture Bert et affiner un modèle pré-formé. [Code] [Papier]

Section 5: Mise en œuvre des articles (partie 3): Modèles de vision-langage - 1 semaine

• Construire un modèle de diffusion stable - Renseignez-vous sur l'architecture de diffusion stable et son application dans les tâches de génération d'images. [Code] [Papier]