Descargar dl_note - Descargar el código fuente dl

dl_note

C/C++

1.0.0

Descargar

Descripción general del proyecto
1. Columna de conceptos básicos de matemáticas y programación
2. Componentes básicos de las redes neuronales
3. Modelo de red neuronal convolucional clásica
4. Alquimia de aprendizaje profundo
5. Compresión del modelo de aprendizaje profundo
Sexto despliegue de inferencia del modelo
7. Cursos avanzados
Referencias

Descripción general del proyecto

Este proyecto de almacén es una visión por computadora y notas de aprendizaje de modelos de lenguaje grande resumido por visión de computadora personal y un modelo de lenguaje grande, que incluye conocimientos básicos de aprendizaje profundo, explicación detallada de componentes básicos de redes neuronales, estrategias de alquimia de aprendizaje profundo, algoritmo de compresión del modelo de aprendizaje profundo, análisis de código de inferencia de inferencia de aprendizaje profundo y combate práctico de combate práctico.

Para las notas de columna sobre los conceptos básicos LLM y la optimización de razonamiento, consulte el almacén LLM_NOTE.

1. Columna de conceptos básicos de matemáticas y programación

Conceptos básicos de las matemáticas de aprendizaje profundo: probabilidad y teoría de la información
Conceptos básicos de los principios básicos de aprendizaje profundo del aprendizaje automático
La base matemática del descenso de gradiente estocástico
Python Programming Mind Navigation

2. Componentes básicos de las redes neuronales

1. Componentes básicos de la red neuronal :

Explicación detallada de los componentes básicos de las redes neuronales: capa convolucional
Explicación detallada de los componentes básicos de la red neuronal - Capa BN
Componentes básicos de la red neuronal: explicación detallada de la función de activación

2. Conceptos básicos del aprendizaje profundo :

Explicación detallada de la backpropagation y el descenso de gradiente
Conceptos básicos del aprendizaje profundo: explicación detallada de la inicialización de los parámetros
Conceptos básicos de aprendizaje profundo: explicación detallada de las funciones de pérdida
Los conceptos básicos del aprendizaje profundo: explicación detallada del algoritmo de optimización

3. Modelo de red neuronal convolucional clásica

1. La columna vertebral clásica de las redes neuronales convolucionales :

Detalles de la red de resnet
Explicación detallada de la red Densenet
Detalles de la red ResNetv2
Resumen clásico de la red troncal

2. Explicación detallada de la red liviana :

Explicación detallada del papel MobileNetv1
Explicación detallada del papel shufflenetv2
Explicación detallada del documento Repvgg
Explicación detallada del papel cspnet
Interpretación del papel vovnet
Resumen de diseño de modelo liviano

4. Alquimia de aprendizaje profundo

Estandarización de datos de alquimia de aprendizaje profundo
Mejora de datos de alquimia de aprendizaje profundo
Alquimia de aprendizaje profundo: procesamiento de muestras desequilibradas
Aprendizaje profundo Alchemy-Hyperparameter
Estrategia de alquimia-regularización de aprendizaje profundo

5. Compresión del modelo de aprendizaje profundo

Un resumen del algoritmo de compresión del modelo de aprendizaje profundo
Modelo de compresión-resumen de diseño e implementación de red livianas
Explicación del algoritmo de poda de compresión modelo del algoritmo de poda
Explicación de compresión modelo de destilación de conocimiento
Modelo de compresión Explicación detallada del algoritmo de cuantización

Sexto despliegue de inferencia del modelo

1. Implementación de inferencia del modelo:

Análisis de complejidad de la red neuronal convolucional
Descripción general de la implementación de compresión del modelo
Explicación detallada de la multiplicación matricial
Técnicas de aceleración de inferencia del modelo - Convolución de fusión y capas BN

2. Análisis del código fuente del marco ncnn :

NCNN Código fuente de análisis de análisis de la muestra
Clase de análisis de análisis de código fuente de NCNN

3. Cálculo heterogéneo

Computación heterogénea terminal móvil: programación neon
Computación heterogénea terminal de GPU: programación cuda , como el análisis y la optimización de los algoritmos gemm

7. Cursos avanzados

1. Recomendar varios almacenes mejores y materiales del curso para la compresión y aceleración del modelo de aprendizaje profundo:

Tutorial sobre principios básicos de las redes neuronales
Sistema AI: Sistema de aprendizaje profundo, explica principalmente los principios, los métodos de aceleración, la multiplicación de la matriz y los cálculos de adición, etc. desde la dirección subyacente.
Pytorch-Deep-Learning: un buen tutorial de aprendizaje profundo de Pytorch.

2. Algunos enlaces de blog a buenas notas:

El transformador ilustrado: la mayoría de los mejores blogs de China se refieren a este artículo.
Programación concurrente C ++ (de C ++ 11 a C ++ 17): un buen tutorial de programación concurrente C ++.
¿Qué son los modelos de difusión?
anotado_deep_learning_paper_implementations

3. Finalmente, no es fácil continuar creando productos de alta 5 .