AutoDL Projects Скачать - AutoDL Projects Скачать исходный код

AutoDL Projects

Питон

1.0.0

Скачать

Автоматизированные проекты глубокого обучения (AutoDL-Projects)-это открытый, легкий, но полезный проект для всех. Этот проект реализовал несколько алгоритмов поиска нейронной архитектуры (NAS) и гиперпараметрической оптимизации (HPO). 中文介绍见 readme_cn.md

Кто должен рассмотреть возможность использования AutoDL-проектов

Новички, которые хотят попробовать разные алгоритмы AutoDL
Инженеры, которые хотят попробовать AutoDL, чтобы выяснить, работает ли AutoDL в ваших проектах
Исследователи, которые хотят легко внедрить и испытать новые алгоритмы AutoDL.

Почему мы должны использовать AutoDL-проекты

Простые библиотечные зависимости
Все алгоритмы находятся в одной и той же кодовой базе
Активное обслуживание

Возможности автоматических проектов

В этот момент этот проект предоставляет следующие алгоритмы и сценарии для их запуска. Пожалуйста, смотрите подробности в ссылке, указанной в столбце описания.

Тип	Аббрв	Алгоритмы	Описание
НАС	Тас	Обрезка сети с помощью поиска преобразуемой архитектуры	Neurips-2019-Tas.md
	ДАРТС	Дартс: дифференцируемый поиск архитектуры	ICLR-2019-DARTS.MD
	GDAS	Поиск надежной нейронной архитектуры в четырех графических процессорах	CVPR-2019-GDAS.MD
	Сет	Один выстрел по поиску нейронной архитектуры через сеть самооценки	ICCV-2019-Setn.md
	NAS-Bench-201	NAS-Bench-2011: расширение объема поиска воспроизводимой нейронной архитектуры	NAS-Bench-201.md
	Натс-пластин	Nats-Bench: анализ алгоритмов NAS для топологии и размера архитектуры	Nats-bench.md
...	ENAS / ReA / Antembre / Bohb	Пожалуйста, проверьте оригинальные документы	Nas-bench-201.md nats-bench.md
HPO	HPO-CG	Оптимизация гиперпараметрической с приблизительным градиентом	вскоре
Базовый	Resnet	Классификация изображений на основе глубокого обучения	Базовая линия.md

Требования и подготовка

Прежде всего , используйте pip install . Чтобы установить библиотеку xautodl .

Пожалуйста, установите Python>=3.6 и PyTorch>=1.5.0 . (Вы можете использовать нижние версии Python и Pytorch, но могут иметь ошибки). Некоторые коды визуализации могут потребовать opencv .

Cifar и ImageNet должны быть загружены и извлечены в $TORCH_HOME . Некоторые методы используют дистилляцию знаний (KD), которые требуют предварительно обученных моделей. Пожалуйста, загрузите эти модели с Google Drive (или самим поезда) и сохраните в .latent-data .

Пожалуйста, используйте

 git clone --recurse-submodules https://github.com/D-X-Y/AutoDL-Projects.git XAutoDL

Чтобы загрузить это репо с подмодулями.

Цитирование

Если вы обнаружите, что этот проект помогает вашему исследованию, рассмотрите возможность сослаться на связанную статью:

 @inproceedings{dong2021autohas,
  title     = {{AutoHAS}: Efficient Hyperparameter and Architecture Search},
  author    = {Dong, Xuanyi and Tan, Mingxing and Yu, Adams Wei and Peng, Daiyi and Gabrys, Bogdan and Le, Quoc V},
  booktitle = {2nd Workshop on Neural Architecture Search at International Conference on Learning Representations (ICLR)},
  year      = {2021}
}
@article{dong2021nats,
  title   = {{NATS-Bench}: Benchmarking NAS Algorithms for Architecture Topology and Size},
  author  = {Dong, Xuanyi and Liu, Lu and Musial, Katarzyna and Gabrys, Bogdan},
  doi     = {10.1109/TPAMI.2021.3054824},
  journal = {IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI)},
  year    = {2021},
  note    = {mbox{doi}:url{10.1109/TPAMI.2021.3054824}}
}
@inproceedings{dong2020nasbench201,
  title     = {{NAS-Bench-201}: Extending the Scope of Reproducible Neural Architecture Search},
  author    = {Dong, Xuanyi and Yang, Yi},
  booktitle = {International Conference on Learning Representations (ICLR)},
  url       = {https://openreview.net/forum?id=HJxyZkBKDr},
  year      = {2020}
}
@inproceedings{dong2019tas,
  title     = {Network Pruning via Transformable Architecture Search},
  author    = {Dong, Xuanyi and Yang, Yi},
  booktitle = {Neural Information Processing Systems (NeurIPS)},
  pages     = {760--771},
  year      = {2019}
}
@inproceedings{dong2019one,
  title     = {One-Shot Neural Architecture Search via Self-Evaluated Template Network},
  author    = {Dong, Xuanyi and Yang, Yi},
  booktitle = {Proceedings of the IEEE International Conference on Computer Vision (ICCV)},
  pages     = {3681--3690},
  year      = {2019}
}
@inproceedings{dong2019search,
  title     = {Searching for A Robust Neural Architecture in Four GPU Hours},
  author    = {Dong, Xuanyi and Yang, Yi},
  booktitle = {Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR)},
  pages     = {1761--1770},
  year      = {2019}
}