ResNeSt

Resner

Red de atención dividida, una nueva variante de resnet. Aumenta significativamente el rendimiento de modelos aguas abajo como Mask R-CNN, Cascade R-CNN y DeepLabv3.

Tabla de contenido

0. Modelos previos a la aparición
1. Transferir modelos de aprendizaje
2. Verificar los resultados de ImageNet
3. Cómo entrenar
4. Referencia

Instalación de pypi / github

0. Instale este repositorio de paquete, tenga en cuenta que solo necesita elegir una de las opciones

 # using github url
pip install git+https://github.com/zhanghang1989/ResNeSt

# using pypi
pip install resnest --pre

Modelos previos a la aparición

	tamaño de cultivo	Pytorch	Gluón
Resnest-50	224	81.03	81.04
Resnest-101	256	82.83	82.81
Resnest-200	320	83.84	83.88
Resnest-269	416	84.54	84.53

• Las implementaciones de terceros están disponibles: TensorFlow, Caffe, Jax.

• Los modelos de estudio de ablación adicional están disponibles en Link

Modelos de pytorch

• Cargar usando un concentrador de antorcha

 import torch
# get list of models
torch . hub . list ( 'zhanghang1989/ResNeSt' , force_reload = True )

# load pretrained models, using ResNeSt-50 as an example
net = torch . hub . load ( 'zhanghang1989/ResNeSt' , 'resnest50' , pretrained = True )

• Cargar usando el paquete Python

 # using ResNeSt-50 as an example
from resnest . torch import resnest50
net = resnest50 ( pretrained = True )

Modelos Gluon

• Modelo de envío de carga:

 # using ResNeSt-50 as an example
from resnest . gluon import resnest50
net = resnest50 ( pretrained = True )

Transferir modelos de aprendizaje

Detectrono2

Proporcionamos un envoltorio para capacitar a los modelos Detectron2 con la columna vertebral resnest en D2. Se liberan configuraciones de entrenamiento y modelos previos a la aparición. Ver detalles en D2.

Mmdetection

La columna vertebral resnest ha sido adoptada por MMDetection.

Segmentación semántica

• Modelos y capacitación de Pytorch: visite Pytorch Coding Toolkit.
• Modelos y capacitación de Gluon: visite Gluoncv Toolkit.

Verificar los resultados de ImageNet:

Nota: La velocidad de inferencia informada en el documento se prueba utilizando la implementación de Gluon con datos RECORIO.

Prepare el conjunto de datos de Imagenet:

Aquí utilizamos el formato de datos de imagen sin procesar para simplificar, siga el tutorial GluoncV si desea utilizar el formato Recordio.

 cd scripts/dataset/
# assuming you have downloaded the dataset in the current folder
python prepare_imagenet.py --download-dir ./

Modelo de antorcha

 # use resnest50 as an example
cd scripts/torch/
python verify.py --model resnest50 --crop-size 224

Modelo de gluon

 # use resnest50 as an example
cd scripts/gluon/
python verify.py --model resnest50 --crop-size 224

Cómo entrenar

Modelos de imagenet

• Entrenamiento con MXNet Gluon: Visite la carpeta Gluon.
• Capacitación con Pytorch: visite Pytorch Coding Toolkit (un poco peor que la implementación de Gluon).

Modelos de detectron

Para los modelos de detección de objetos y segmentación de instancias, visite nuestra horquilla Detectron2-resnest.

Segmentación semántica

• Entrenamiento con Pytorch: Kit de herramientas de codificación.
• Entrenamiento con MXNET: Gluoncv Toolkit.

Referencia

Resnest: redes de atención dividida [ARXIV]

Hang Zhang, Chongruo Wu, Zhongyue Zhang, Yi Zhu, Zhi Zhang, Haibin Lin, Yue Sun, Tong He, Jonas Muller, R. Manmatha, Mu Li y Alex Smola

 @article{zhang2020resnest,
title={ResNeSt: Split-Attention Networks},
author={Zhang, Hang and Wu, Chongruo and Zhang, Zhongyue and Zhu, Yi and Zhang, Zhi and Lin, Haibin and Sun, Yue and He, Tong and Muller, Jonas and Manmatha, R. and Li, Mu and Smola, Alexander},
journal={arXiv preprint arXiv:2004.08955},
year={2020}
}

Grandes contribuyentes

• RESNEST Backbone (Hang Zhang)
• Modelos de Detectron (Chongruo Wu, Zhongyue Zhang)
• Segmentación semántica (Yi Zhu)
• Capacitación distribuida (Haibin Lin)