1. ) 신경 아키텍처 검색 , 2.) 가벼운 구조 , 3.) 모델 압축, 양자화 및 가속도 , 4.) 하이퍼 파라미터 최적화 , 5.) 자동 기능 엔지니어링 .
이 repo는 Automl Research (특히 가벼운 모델의 경우)를위한 정보를 제공하는 것을 목표로합니다. Repo에서 놓친 PR The Works (종이, 저장소)에 오신 것을 환영합니다.
구배:
NAS가 견고함을 충족시킬 때 : 대적 공격에 대한 강력한 아키텍처를 찾아서 | [ CVPR 2020 ]
4 시간 동안 강력한 신경 구조 검색 | [ CVPR 2019 ]
ASAP : 건축 검색, 어닐링 및 자두 | [2019/04]
단일 경로 NAS : 4 시간 이내에 하드웨어 효율적인 컨넷 설계 | [2019/04]
자동 컨볼 루션 신경 구조 다른 장면에서 이미지 분류 검색 | [ IEEE Access 2019 ]
SharpDarts : 더 빠르고 정확한 차별화 가능한 아키텍처 검색 | [2019/03]
매개 변수 공유 | [ ICLR 2019 ]
확률 적 신경 구조 검색 | [2019/02]
Auto-DeePlab : 시맨틱 이미지 세분화에 대한 계층 적 신경 구조 검색 | [2019/01]
SNAS : 확률 론적 신경 건축 검색 | [ ICLR 2019 ]
FBNET : 차별화 가능한 신경 아키텍처 검색을 통한 하드웨어 인식 효율적인 Convnet 설계 | [2018/12]
신경 구조화 | [ NIPS 2018 ]
다트 : 차별화 가능한 아키텍처 검색 | [2018/06]
강화 학습 :
소형 시맨틱 세분화 아키텍처의 템플릿 기반 자동 검색 | [2019/04]
신경 아키텍처 검색 기술 이해 | [2019/03]
신경 아키텍처 검색으로 빠르고 정확하며 가벼운 수퍼 해상도 | [2019/01]
모바일 신경 아키텍처 검색에서 다목적 강화 진화 | [2019/01]
proxylessnas : 대상 작업 및 하드웨어에 대한 직접 신경 아키텍처 검색 | [ ICLR 2019 ]
신경 자동 | [ NIPS 2018 ]
확장 가능한 이미지 인식을위한 전송 가능한 아키텍처 학습 | [2018/07]
MNASNET : 모바일에 대한 플랫폼 인식 신경 아키텍처 검색 | [2018/07]
실제 블록 현저한 신경 네트워크 아키텍처 생성 | [ CVPR 2018 ]
매개 변수 공유를 통한 효율적인 신경 구조 검색 | [ ICML 2018 ]
네트워크 변환에 의한 효율적인 아키텍처 검색 | [ AAAI 2018 ]
진화 알고리즘 :
균일 한 샘플링이있는 단일 경로 원샷 신경 구조 검색 | [2019/04]
DETNAS : 물체 감지에 대한 신경 구조 검색 | [2019/03]
진화 된 변압기 | [2019/01]
신경 진화를 통해 신경망 설계 | [ Nature Machine Intelligence 2019 ]
EAT-NAS : 대규모 신경 구조 검색을 가속화하기위한 탄성 아키텍처 전송 | [2019/01]
Lamarckian Evolution을 통한 효율적인 다목적 신경 구조 검색 | [ ICLR 2019 ]
SMBO :
MFAS : 멀티 모달 퓨전 아키텍처 검색 | [ CVPR 2019 ]
DPP-NET : 파레토 최적의 신경 구조에 대한 장치 인식 점진적 검색 | [ ECCV 2018 ]
진보적 인 신경 구조 검색 | [ ECCV 2018 ]
랜덤 검색 :
이미지 인식을 위해 무작위로 유선 된 신경망 탐색 | [2019/04]
밀도가 높은 이미지 예측을위한 효율적인 다중 규모 아키텍처 검색 | [ NIPS 2018 ]
하이퍼 네트워크 :
베이지안 최적화 :
부분 순서 가지 치기
지식 증류
이미지 분류 :
효율적인 넷 : Convolutional Neural Networks를위한 모델 스케일링 재고 | [ ICML 2019 ]
Mobilenetv3 검색 | [2019/05]
시맨틱 세분화 :
CGNET : 시맨틱 세분화를위한 가벼운 컨텍스트 가이드 네트워크 | [2019/04]
ESPNETV2 : 가벼운 가중, 전력 효율적이며 범용 컨볼 루션 신경망 | [2018/11]
ESPNET : 시맨틱 세분화를위한 확장 된 컨볼 루션의 효율적인 공간 피라미드 | [ ECCV 2018 ]
Bisenet : 실시간 시맨틱 세분화를위한 양측 세분화 네트워크 | [ ECCV 2018 ]
ERFNET : 실시간 시맨틱 세그먼트 화를위한 효율적인 잔류 계수 콜넷 | [ T-ITS 2017 ]
객체 감지 :
Thundernet : 실시간 일반 객체 감지를 향해 | [2019/03]
물체 감지를위한 풀링 피라미드 네트워크 | [2018/09]
Tiny-DSOD : 자원 제한 사용법을위한 경량 객체 감지 | [ BMVC 2018 ]
Pelee : 모바일 장치의 실시간 객체 감지 시스템 | [ Neurips 2018 ]
정확하고 빠른 물체 감지를위한 수용 필드 블록 그물 | [ ECCV 2018 ]
FSSD : 피처 퓨전 싱글 샷 멀티 박스 검출기 | [2017/12]
객체 감지를위한 피라미드 네트워크 기능 | [ CVPR 2017 ]
전정:
복권 가설 : 희소하고 훈련 가능한 신경망 찾기 | [ ICLR 2019 ]
네트워크 가지 치기의 가치를 다시 생각합니다 | [ ICLR 2019 ]
슬림 한 신경망 | [ ICLR 2019 ]
AMC : 모바일 장치의 모델 압축 및 가속을위한 자동 | [ ECCV 2018 ]
네트워크 슬리밍을 통한 효율적인 컨볼 루션 네트워크 학습 | [ ICCV 2017 ]
매우 깊은 신경망을 가속화하기위한 채널 가지 치기 | [ ICCV 2017 ]
자원 효율적인 추론을위한 가지 치기 컨볼 루션 신경 네트워크 | [ ICLR 2017 ]
효율적인 콩베를위한 가지 치기 필터 | [ ICLR 2017 ]
양자화 :
훈련 활성화에서 직선 추정기 이해 정량화 된 신경망 | [ ICLR 2019 ]
효율적인 정수-아리타틱 전용 추론을위한 신경망의 양자화 및 훈련 | [ CVPR 2018 ]
효율적인 추론을위한 깊은 컨볼 루션 네트워크를 정량화 : 백서 | [2018/06]
PACT : 양자화 된 신경 네트워크에 대한 매개 변수화 클리핑 활성화 | [2018/05]
신속한 배치를위한 컨볼 루션 네트워크의 4 비트 양자화 후 훈련 | [ ICML 2018 ]
WRPN : 광범위한 감소 정밀 네트워크 | [ ICLR 2018 ]
증분 네트워크 양자화 : 저렴한 가중치가 낮은 무손실 CNN을 향해 | [ ICLR 2017 ]
Dorefa-net : 비트 폭이 낮은 비트 폭 넓은 신경 네트워크 훈련이 적은 비트 전액 그라디언트를 갖는 훈련 | [2016/06]
조건부 계산을 위해 확률 론적 뉴런을 통한 그라디언트 추정 또는 전파 | [2013/08]
지식 증류
견습생 : 지식 증류 기술을 사용하여 저렴한 네트워크 정확도를 향상시킵니다 | [ ICLR 2018 ]
증류 및 양자화를 통한 모델 압축 | [ ICLR 2018 ]
가속:
대학원생없이 하이퍼 파라미터를 조정 : 잠자리를 사용한 확장 가능하고 강력한 베이지안 최적화 | [2019/03]
부가력 및 층 푸리에 기능을 갖춘 효율적인 고 차원 베이지안 최적화 | [ Neurips 2018 ]
Google Vizier : 블랙 박스 최적화를위한 서비스 | [ SIGKDD 2017 ]
기계 학습 알고리즘의 하이퍼 파라미터 최적화 : 이론 및 실습 | [ Neurocomputing 2020 ]
베이지안 최적화를 이용한 클라우드 머신 러닝 엔진의 하이퍼 파라미터 튜닝
베이지안 최적화 개요
베이지안 최적화
Netscope CNN 분석기 | [카페]
Sksq96/Pytorch-Summary | [Pytorch]
lyken17/pytorch-opcounter | [Pytorch]
Sovrasov/flops-counter.pytorch | [Pytorch]