Projetos automatizados de aprendizado profundo (Projetos Autodl) é um projeto de código aberto, leve, mas útil para todos. Este projeto implementou vários algoritmos de pesquisa de arquitetura neural (NAS) e otimização hiper-parâmetro (HPO). 中文介绍见 ReadMe_cn.md
Quem deve considerar o uso do AutoDL-Projetos
Por que devemos usar o AutoDL-Projetos
Nesse momento, este projeto fornece os seguintes algoritmos e scripts para executá -los. Consulte os detalhes no link fornecido na coluna Descrição.
| Tipo | Abbrv | Algoritmos | Descrição |
|---|---|---|---|
| Nas | Tas | Pruagem de rede via pesquisa de arquitetura transformável | Neurips-2019-Tas.md |
| DARDOS | Dardos: pesquisa de arquitetura diferenciável | ICLR-2019-Darts.md | |
| GDAS | Procurando uma arquitetura neural robusta em quatro horas da GPU | CVPR-2019-gdas.md | |
| Setn | Pesquisa de arquitetura neural de um tiro através da rede de modelos auto-avaliados | ICCV-2019-SETN.MD | |
| NAS-BEMCH-201 | NAS-BANCE-201: Estendendo o escopo da pesquisa de arquitetura neural reproduzível | NAS-BEMCH-201.MD | |
| Bancada nats | Banche Nats: Algoritmos NAS de benchmarking para topologia e tamanho de arquitetura | Nats-banch.md | |
| ... | Enas / rea / reforçar / bohb | Por favor, verifique os papéis originais | NAS-banch-201.md nats-banch.md |
| HPO | HPO-CG | Otimização de hiperparâmetro com gradiente aproximado | em breve |
| Básico | Resnet | Classificação de imagem baseada em aprendizado profundo | Baseline.md |
Primeiro de tudo , use pip install . Para instalar a biblioteca xautodl .
Instale Python>=3.6 e PyTorch>=1.5.0 . (Você pode usar versões mais baixas de Python e Pytorch, mas pode ter bugs). Alguns códigos de visualização podem exigir opencv .
Cifar e ImageNet devem ser baixados e extraídos em $TORCH_HOME . Alguns métodos usam a destilação do conhecimento (KD), que requerem modelos pré-treinados. Faça o download desses modelos do Google Drive (ou treine sozinho) e salve em .latent-data .
Por favor, use
git clone --recurse-submodules https://github.com/D-X-Y/AutoDL-Projects.git XAutoDL
Para baixar este repositório com submódulos.
Se você achar que este projeto ajuda sua pesquisa, considere citar o artigo relacionado:
@inproceedings{dong2021autohas,
title = {{AutoHAS}: Efficient Hyperparameter and Architecture Search},
author = {Dong, Xuanyi and Tan, Mingxing and Yu, Adams Wei and Peng, Daiyi and Gabrys, Bogdan and Le, Quoc V},
booktitle = {2nd Workshop on Neural Architecture Search at International Conference on Learning Representations (ICLR)},
year = {2021}
}
@article{dong2021nats,
title = {{NATS-Bench}: Benchmarking NAS Algorithms for Architecture Topology and Size},
author = {Dong, Xuanyi and Liu, Lu and Musial, Katarzyna and Gabrys, Bogdan},
doi = {10.1109/TPAMI.2021.3054824},
journal = {IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)},
year = {2021},
note = {mbox{doi}:url{10.1109/TPAMI.2021.3054824}}
}
@inproceedings{dong2020nasbench201,
title = {{NAS-Bench-201}: Extending the Scope of Reproducible Neural Architecture Search},
author = {Dong, Xuanyi and Yang, Yi},
booktitle = {International Conference on Learning Representations (ICLR)},
url = {https://openreview.net/forum?id=HJxyZkBKDr},
year = {2020}
}
@inproceedings{dong2019tas,
title = {Network Pruning via Transformable Architecture Search},
author = {Dong, Xuanyi and Yang, Yi},
booktitle = {Neural Information Processing Systems (NeurIPS)},
pages = {760--771},
year = {2019}
}
@inproceedings{dong2019one,
title = {One-Shot Neural Architecture Search via Self-Evaluated Template Network},
author = {Dong, Xuanyi and Yang, Yi},
booktitle = {Proceedings of the IEEE International Conference on Computer Vision (ICCV)},
pages = {3681--3690},
year = {2019}
}
@inproceedings{dong2019search,
title = {Searching for A Robust Neural Architecture in Four GPU Hours},
author = {Dong, Xuanyi and Yang, Yi},
booktitle = {Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR)},
pages = {1761--1770},
year = {2019}
}
Se você deseja contribuir com este repo, consulte Contribuindo.md. Além disso, siga o código de conduta.md.
Usamos o Formatter black for Python Code. Por favor, use black . -l 88 .
Toda a base de código está sob a licença do MIT.