Startseite>Programmierbezogen>Python
Herunterladen

(Generische) Effizienznetze für Pytorch 

 - - **NOTE** This repo is not being maintained --

Bitte verwenden Sie stattdessen timm . Es enthält all diese Modelldefinitionen (kompatible Gewichte) und vieles mehr.

Eine "generische" Implementierung von effizientemNET, Mixnet, Mobilenetv3 usw., das die meisten Rechen-/Parameter -effizienten Architekturen abdeckt, die aus der Mobilenet V1/V2 -Blocksequenz abgeleitet wurden, einschließlich derer, die über automatisierte Suche nach neuronaler Architektur gefunden wurden.

Alle Modelle werden von genefficienceNet- oder mobilenetv3 -Klassen mit String -basierten Architekturdefinitionen implementiert, um die Blocklayouts zu konfigurieren (Idee von hier)

Was ist neu

19. August 2020

  • Fügen Sie aktualisierte Pytorch-trainierte Efficientnet-B3-Gewichte hinzu, die von mir mit timm trainiert wurden (82.1 Top-1)
  • Fügen Sie Pytorch trainiert EfficientNet-Lite0 bei, der von @HAL-314 (75,5 Top-1) beigetragen wird
  • Aktualisieren Sie ONNX- und Caffe2 -Export- / Dienstprogramm -Skripte, um mit dem neuesten Pytorch / ONNX zu arbeiten
  • Onnx Runtime -basierte Validierungsskript hinzugefügt
  • Aktivierungen (meistens) haben Synchronisierung mit timm -Äquivalenten eingebracht

5. April 2020

  • Fügen Sie einige neu ausgebildete Mobilenet-V2-Modelle hinzu, die mit den neuesten H-Params, Rand Augment, trainiert wurden. Sie vergleichen sich sehr günstig mit EfficientnetNet-Lite
    • 3,5 m Param Mobilenet-V2 100 @ 73%
    • 4,5m Param Mobilenet-V2 110D @ 75%
    • 6,1 m Param Mobilenet-V2 140 @ 76,5%
    • 5,8m Param Mobilenet-V2 120D @ 77,3%

23. März 2020

  • Fügen Sie effiziente Netz-Lite-Modelle mit Gewichten hinzu, die aus TensorFlow TPU portiert sind
  • Fügen Sie mit Pytorch trainierte Mobilenet-V3 große Gewichte mit 75,77% Top-1 hinzu
  • Wichtige Änderung (wenn das Training von Grund auf neu ist) - Gewicht init geändert fix_group_fanout=False um initialize_weight_goog TensorFlow impl zu übereinstimmen

12. Februar 2020

  • Fügen Sie effiziente Nettel-L2- und B0-B7-Noisystem-Gewichte hinzu
  • Port New Efficienznet-B8 (Randaugment) Gewichte von TF TPU, diese unterscheiden sich vom B8 AdvProp, unterschiedliche Eingangsnormalisierung.
  • Fügen Sie RandAugment Pytorch trainierte Efficienznet-E-ES (EDGETPU-Small) Gewichte mit 78,1 Top-1 hinzu. Trainiert von Andrew Lavin

22. Januar 2020

  • Aktualisieren Sie die Gewichte für effiziente Nettung B0, B2, B3 und Mixnet-XL mit den neuesten Randaugment-geschulten Gewichten. Trainiert mit (https://github.com/rwightman/pytorch-image-models)
  • Fix Torchscript -Kompatibilität für Pytorch 1.4 Fügen Sie die Torchscript -Unterstützung für MixedConv2D mit Moduledict hinzu
  • Testmodelle, Torchscript, ONNX -Export mit Pytorch 1.4 - keine Probleme

22. November 2019

  • NEU TOP-1 HIGH! Ported Official TF EfficienceNet Advprop (https://arxiv.org/abs/1911.09665) Gewichte und B8 -Modellspezifikation. Erstellte einen neuen Satz von ap -Modellen, da sie eine andere Vorverarbeitung (Inception Mean/STD) als die ursprüngliche effiziente Nettungsbasis/AA/RA -Gewichte verwenden.

15. November 2019

  • Portierte offizielle TF Mobilenet-V3 Float32 Große/kleine/minimalistische Gewichte
  • Modifikationen zu Mobilenet-V3-Modell und Komponenten, um einige zusätzliche Konfigurationen zu unterstützen, die für Unterschiede zwischen TF Mobilenet-V3 und Mine erforderlich sind

30. Oktober 2019

  • Viele der Modelle arbeiten nun mit Torch.jit.Script zusammen, Mixnet ist die größte Ausnahme
  • Verbesserte Schnittstelle zum Aktivieren von Torchscript- oder ONNX -Exportkompatibilitätsmodi (über config)
  • Fügen Sie JIT-optimierte Memeffiziente Swish/Mish autograd.fn zusätzlich zu speicherem AUTgrad.fn
  • Aktivierungsfabrik, um die beste Version der Aktivierung nach Namen auszuwählen oder weltweit einen überschreiben
  • Fügen Sie ein vorab vorbereiteter Checkpoint -Lasthelfer hinzu, der Eingabebereich und Klassifikatoränderungen übernimmt

27. Oktober 2019

  • Fügen Sie Condconv EfficientNET -Varianten hinzu, die von https://github.com/tensorflow/tpu/tree/master/models/official/efficyNet/condconv portiert sind
  • Fügen Sie Randaug -Gewichte für TF Efficientnet B5 und B7 von https://github.com/tensorflow/tpu/tree/master/models/official/efficienceNet hinzu
  • Bringen Sie das Mixnet-XL-Modell und die Tiefenskalierung von Algo aus meiner Pytorch-Image-Modelle-Codebasis mit
  • Aktivierungen und globales Pooling auf Module wechseln
  • Fügen Sie speichereffizientes Swish/Mish Impl hinzu
  • Fügen Sie allen Modellen eine as_sequential () -Methode hinzu und erlauben Sie als Argument in Einstiegspunkte FNS
  • Bewegen Sie Mobilenetv3 in eine eigene Datei, da sie einen anderen Kopf hat
  • Entfernen Sie Chamnet, Mobilenet V2/V1, da sie hier wahrscheinlich nie verwendet werden

Modelle

Implementierte Modelle umfassen:

  • EfficienceNet Noisystudent (B0-B7, L2) (https://arxiv.org/abs/1911.04252)
  • EfficienceNet Advprop (B0-B8) (https://arxiv.org/abs/1911.09665)
  • EffizientesNet (B0-B8) (https://arxiv.org/abs/1905.11946)
  • EfficienzierteNet-edgetPu (S, M, L) (https://ai.googleblog.com/2019/08/efficienceNet-edgetpu-creating.html)
  • EfficienceNet-Condconv (https://arxiv.org/abs/1904.04971)
  • Efficienznet-Lite (https://github.com/tensorflow/tpu/tree/master/models/official/efficynetnet/lite)
  • Mixnet (https://arxiv.org/abs/1907.09595)
  • MNASNET B1, A1 (Squeeze-Excite) und Small (https://arxiv.org/abs/1807.11626)
  • Mobilenet-v3 (https://arxiv.org/abs/1905.02244)
  • FBNET-C (https://arxiv.org/abs/1812.03443)
  • Single-Path NAS (https://arxiv.org/abs/1904.02877)

Ich habe diese Modelle hier ursprünglich implementiert und trainiert. Hier enthält dieses Repository nur die genefficyNetNET -Modelle, die Validierung und den zugehörigen ONNX/Caffe2 -Exportcode.

Vorbereitet

Ich habe es geschafft, einige der Modelle auf Genauigkeiten nahe oder über den Ursprungspapieren und offiziellem Impl. Mein Trainingscode ist da: https://github.com/rwightman/pytorch-image-models

Modell Prec@1 (ähm) Prec@5 (ähm) Param#(m) Madds (m) Bildskalierung Auflösung Ernte
effizientnetnetz_b3 82.240 (17.760) 96.116 (3.884) 12.23 TBD bicubic 320 1.0
effizientnetnetz_b3 82.076 (17.924) 96.020 (3,980) 12.23 TBD bicubic 300 0,904
mixnet_xl 81.074 (18.926) 95.282 (4,718) 11.90 TBD bicubic 256 1.0
effizientnet_b2 80.612 (19.388) 95.318 (4,682) 9.1 TBD bicubic 288 1.0
mixnet_xl 80.476 (19.524) 94.936 (5.064) 11.90 TBD bicubic 224 0,875
effizientnet_b2 80.288 (19.712) 95.166 (4,834) 9.1 1003 bicubic 260 0,890
mixnet_l 78,976 (21.024 94.184 (5.816) 7.33 TBD bicubic 224 0,875
effizientnetnetz_b1 78,692 (21.308) 94.086 (5.914) 7.8 694 bicubic 240 0,882
effizientnetnetz_es 78.066 (21.934) 93.926 (6.074) 5.44 TBD bicubic 224 0,875
effizientnetnetz_b0 77,698 (22.302) 93,532 (6,468) 5.3 390 bicubic 224 0,875
mobilenetv2_120d 77,294 (22.706 93.502 (6,498) 5.8 TBD bicubic 224 0,875
mixnet_m 77,256 (22.744) 93.418 (6,582) 5.01 353 bicubic 224 0,875
mobilenetv2_140 76,524 (23,476) 92.990 (7.010) 6.1 TBD bicubic 224 0,875
mixnet_s 75,988 (24.012) 92.794 (7.206) 4.13 TBD bicubic 224 0,875
mobilenetv3_large_100 75,766 (24.234) 92,542 (7,458) 5.5 TBD bicubic 224 0,875
mobilenetv3_rw 75,634 (24,366) 92.708 (7.292) 5.5 219 bicubic 224 0,875
effizientnetnetz_lite0 75,472 (24,528) 92.520 (7,480) 4.65 TBD bicubic 224 0,875
mnasnet_a1 75,448 (24,552) 92.604 (7.396) 3.9 312 bicubic 224 0,875
FBNETC_100 75.124 (24,876) 92.386 (7.614) 5.6 385 bilinear 224 0,875
mobilenetv2_110d 75,052 (24,948) 92.180 (7,820) 4.5 TBD bicubic 224 0,875
mnasnet_b1 74,658 (25,342) 92.114 (7,886) 4.4 315 bicubic 224 0,875
spnasnet_100 74.084 (25,916) 91.818 (8.182) 4.4 TBD bilinear 224 0,875
mobilenetv2_100 72,978 (27.022) 91.016 (8,984) 3.5 TBD bicubic 224 0,875

Weitere vorbereitete Modelle kommen ...

Portierte Gewichte

Die Gewichte, die von TensorFlow -Checkpoints für die effizienten Nett -Modelle portiert sind, stimmen in TensorFlow ziemlich genau überein, sobald ein gleiches Faltungspolsteräquivalent hinzugefügt wird, und dieselben Erntefaktoren, Bildskalierung usw. (siehe Tabelle) werden über CMD -Leitungsargs verwendet.

WICHTIG:

  • TensorFlow-Gewichte für effiziente Netz-AdvProp (AP), EfficienceNet EDGETPU, EfficienceNet-Condconv, EfficientNet-Lite und Mobilenet-V3-Modelle verwenden den Inception-Stil (0,5, 0,5, 0,5) für Mittelwert und STD.
  • Durch die Aktivierung der Tensorflow-Vorverarbeitungspipeline mit --tf-preprocessing zur Validierungszeit wird die Werte um 0,1-0,5%verbessert, sehr nahe an den ursprünglichen TF-Impl.

So führen Sie die Validierung für tf_efficynet_b5 aus: python validate.py /path/to/imagenet/validation/ --model tf_efficientnet_b5 -b 64 --img-size 456 --crop-pct 0.934 --interpolation bicubic

So führen Sie die Validierung mit TF-Vorverarbeitung für tf_efficiethet_b5: python validate.py /path/to/imagenet/validation/ --model tf_efficientnet_b5 -b 64 --img-size 456 --tf-preprocessing

To run validation for a model with Inception preprocessing, ie EfficientNet-B8 AdvProp: python validate.py /path/to/imagenet/validation/ --model tf_efficientnet_b8_ap -b 48 --num-gpu 2 --img-size 672 --crop-pct 0.954 --mean 0.5 --std 0.5

Modell Prec@1 (ähm) Prec@5 (ähm) Param # Bildskalierung Bildgröße Ernte
tf_efficiennetnet_l2_ns *tfp 88.352 (11.648) 98.652 (1,348) 480 bicubic 800 N / A
tf_efficiennetnet_l2_ns TBD TBD 480 bicubic 800 0,961
tf_efficiennetnet_l2_ns_475 88.234 (11.766) 98,546 (1,454) 480 bicubic 475 0,936
tf_efficiennetnet_l2_ns_475 *tfp 88.172 (11.828) 98,566 (1,434) 480 bicubic 475 N / A
tf_efficiennetnet_b7_ns *tfp 86.844 (13.156) 98.084 (1,916) 66,35 bicubic 600 N / A
tf_efficiennetnet_b7_ns 86.840 (13.160) 98.094 (1,906) 66,35 bicubic 600 N / A
tf_efficiennetnet_b6_ns 86.452 (13.548) 97.882 (2.118) 43.04 bicubic 528 N / A
tf_efficiennetnet_b6_ns *tfp 86,444 (13.556) 97.880 (2.120) 43.04 bicubic 528 N / A
tf_efficiennetnet_b5_ns *tfp 86.064 (13.936) 97.746 (2.254) 30.39 bicubic 456 N / A
tf_efficiennetnet_b5_ns 86.088 (13.912) 97.752 (2.248) 30.39 bicubic 456 N / A
tf_efficiennetnet_b8_ap *tfp 85.436 (14.564) 97.272 (2,728) 87,4 bicubic 672 N / A
tf_efficiennetnet_b8 *tfp 85.384 (14.616) 97.394 (2.606) 87,4 bicubic 672 N / A
tf_efficiennetnet_b8 85.370 (14.630) 97.390 (2.610) 87,4 bicubic 672 0,954
tf_efficiennetnet_b8_ap 85.368 (14.632) 97.294 (2.706) 87,4 bicubic 672 0,954
tf_efficiennetnet_b4_ns *tfp 85.298 (14.702) 97.504 (2.496) 19.34 bicubic 380 N / A
tf_efficiennetnet_b4_ns 85.162 (14.838) 97.470 (2.530) 19.34 bicubic 380 0,922
tf_efficiennetnet_b7_ap *tfp 85.154 (14.846) 97,244 (2,756) 66,35 bicubic 600 N / A
tf_efficiennetnet_b7_ap 85.118 (14.882) 97.252 (2,748) 66,35 bicubic 600 0,949
tf_efficiennetnet_b7 *tfp 84.940 (15.060) 97.214 (2,786) 66,35 bicubic 600 N / A
tf_efficiennetnet_b7 84,932 (15.068) 97.208 (2.792) 66,35 bicubic 600 0,949
tf_efficiennetnet_b6_ap 84.786 (15.214) 97.138 (2,862) 43.04 bicubic 528 0,942
tf_efficiennetnet_b6_ap *tfp 84.760 (15.240) 97.124 (2,876) 43.04 bicubic 528 N / A
tf_efficiennetnet_b5_ap *tfp 84.276 (15.724) 96.932 (3.068) 30.39 bicubic 456 N / A
tf_efficiennetnet_b5_ap 84.254 (15.746) 96,976 (3.024) 30.39 bicubic 456 0,934
tf_efficiennetnet_b6 *tfp 84.140 (15.860) 96.852 (3.148) 43.04 bicubic 528 N / A
tf_efficiennetnet_b6 84.110 (15.890) 96,886 (3.114) 43.04 bicubic 528 0,942
tf_efficiennetnet_b3_ns *tfp 84.054 (15.946) 96.918 (3.082) 12.23 bicubic 300 N / A
tf_efficiennetnet_b3_ns 84.048 (15.952) 96.910 (3.090) 12.23 bicubic 300 .904
tf_efficiennetnet_b5 *tfp 83,822 (16.178) 96.756 (3,244) 30.39 bicubic 456 N / A
tf_efficiennetnet_b5 83.812 (16.188) 96.748 (3,252) 30.39 bicubic 456 0,934
tf_efficiennetnet_b4_ap *tfp 83.278 (16.722) 96,376 (3,624) 19.34 bicubic 380 N / A
tf_efficiennetnet_b4_ap 83.248 (16.752) 96,388 (3,612) 19.34 bicubic 380 0,922
tf_efficiennetnet_b4 83.022 (16,978) 96.300 (3.700) 19.34 bicubic 380 0,922
tf_efficiennetnet_b4 *tfp 82.948 (17.052) 96.308 (3,692) 19.34 bicubic 380 N / A
tf_efficiennetnet_b2_ns *tfp 82.436 (17.564) 96,268 (3,732) 9.11 bicubic 260 N / A
tf_efficiennetnet_b2_ns 82.380 (17.620) 96,248 (3,752) 9.11 bicubic 260 0,89
tf_efficiennetnet_b3_ap *tfp 81.882 (18.118) 95.662 (4,338) 12.23 bicubic 300 N / A
tf_efficiennetnet_b3_ap 81.828 (18.172) 95.624 (4,376) 12.23 bicubic 300 0,904
tf_efficiennetnet_b3 81.636 (18.364) 95.718 (4,282) 12.23 bicubic 300 0,904
tf_efficiennetnet_b3 *tfp 81.576 (18.424) 95.662 (4,338) 12.23 bicubic 300 N / A
tf_efficiennetnet_lite4 81.528 (18.472) 95.668 (4,332) 13.00 bilinear 380 0,92
tf_efficiennetnet_b1_ns *tfp 81.514 (18.486) 95.776 (4,224) 7.79 bicubic 240 N / A
tf_efficiennetnet_lite4 *tfp 81.502 (18.498) 95.676 (4,324) 13.00 bilinear 380 N / A
tf_efficiennetnet_b1_ns 81.388 (18.612) 95.738 (4,262) 7.79 bicubic 240 0,88
tf_efficiennetnet_el 80.534 (19.466) 95.190 (4.810) 10.59 bicubic 300 0,904
tf_efficiennetnet_el *tfp 80.476 (19.524) 95.200 (4.800) 10.59 bicubic 300 N / A
tf_efficiennetnet_b2_ap *tfp 80.420 (19.580) 95.040 (4,960) 9.11 bicubic 260 N / A
tf_efficiennetnet_b2_ap 80.306 (19.694) 95.028 (4,972) 9.11 bicubic 260 0,890
tf_efficiennetnet_b2 *tfp 80.188 (19.812) 94.974 (5.026) 9.11 bicubic 260 N / A
tf_efficiennetnet_b2 80.086 (19.914) 94.908 (5.092) 9.11 bicubic 260 0,890
tf_efficiennetnet_lite3 79,812 (20.188) 94.914 (5.086) 8.20 bilinear 300 0,904
tf_efficiennetnet_lite3 *tfp 79,734 (20,266) 94.838 (5.162) 8.20 bilinear 300 N / A
tf_efficiennetnet_b1_ap *tfp 79,532 (20,468) 94.378 (5.622) 7.79 bicubic 240 N / A
tf_efficynetnet_cc_b1_8e *tfp 79,464 (20,536) 94.492 (5.508) 39.7 bicubic 240 0,88
tf_efficiennetnet_cc_b1_8e 79,298 (20.702) 94.364 (5.636) 39.7 bicubic 240 0,88
tf_efficiennetnet_b1_ap 79,278 (20,722) 94.308 (5.692) 7.79 bicubic 240 0,88
tf_efficiennetnet_b1 *tfp 79,172 (20,828) 94.450 (5.550) 7.79 bicubic 240 N / A
tf_efficiennetnet_em *tfp 78,958 (21.042) 94.458 (5,542) 6.90 bicubic 240 N / A
tf_efficiennetnet_b0_ns *tfp 78.806 (21.194) 94.496 (5.504) 5.29 bicubic 224 N / A
tf_mixnet_l *tfp 78,846 (21.154) 94.212 (5.788) 7.33 bilinear 224 N / A
tf_efficiennetnet_b1 78,826 (21.174) 94.198 (5.802) 7.79 bicubic 240 0,88
tf_mixnet_l 78.770 (21.230) 94.004 (5.996) 7.33 bicubic 224 0,875
tf_efficiennetnet_em 78,742 (21.258) 94.332 (5.668) 6.90 bicubic 240 0,875
tf_efficiennetnet_b0_ns 78,658 (21.342) 94.376 (5.624) 5.29 bicubic 224 0,875
tf_efficynetnet_cc_b0_8e *tfp 78.314 (21.686) 93.790 (6.210) 24.0 bicubic 224 0,875
tf_efficynetnet_cc_b0_8e 77.908 (22.092) 93.656 (6.344) 24.0 bicubic 224 0,875
tf_efficynetnet_cc_b0_4e *tfp 77,746 (22.254) 93,552 (6,448) 13.3 bicubic 224 0,875
tf_efficynetnet_cc_b0_4e 77.304 (22.696) 93.332 (6,668) 13.3 bicubic 224 0,875
tf_efficiennetnet_es *tfp 77,616 (22.384) 93.750 (6.250) 5.44 bicubic 224 N / A
tf_efficiennetnet_lite2 *tfp 77,544 (22.456) 93.800 (6.200) 6.09 bilinear 260 N / A
tf_efficiennetnet_lite2 77,460 (22.540) 93.746 (6.254) 6.09 bicubic 260 0,89
tf_efficiennetnet_b0_ap *tfp 77,514 (22.486) 93.576 (6.424) 5.29 bicubic 224 N / A
tf_efficiennetnet_es 77,264 (22.736) 93.600 (6.400) 5.44 bicubic 224 N / A
tf_efficiennetnet_b0 *tfp 77,258 (22.742) 93.478 (6,522) 5.29 bicubic 224 N / A
tf_efficiennetnet_b0_ap 77.084 (22.916) 93.254 (6,746) 5.29 bicubic 224 0,875
tf_mixnet_m *tfp 77.072 (22.928) 93.368 (6,632) 5.01 bilinear 224 N / A
tf_mixnet_m 76.950 (23.050) 93.156 (6,844) 5.01 bicubic 224 0,875
tf_efficiennetnet_b0 76,848 (23.152) 93.228 (6,772) 5.29 bicubic 224 0,875
tf_efficiennetnet_lite1 *tfp 76,764 (23.236) 93.326 (6,674) 5.42 bilinear 240 N / A
tf_efficiennetnet_lite1 76,638 (23.362) 93.232 (6,768) 5.42 bicubic 240 0,882
tf_mixnet_s *tfp 75,800 (24.200) 92.788 (7.212) 4.13 bilinear 224 N / A
tf_mobilenetv3_large_100 *tfp 75,768 (24.232) 92.710 (7.290) 5.48 bilinear 224 N / A
tf_mixnet_s 75,648 (24.352) 92.636 (7.364) 4.13 bicubic 224 0,875
tf_mobilenetv3_large_100 75,516 (24,484) 92.600 (7.400) 5.48 bilinear 224 0,875
tf_efficiennetnet_lite0 *tfp 75,074 (24,926) 92.314 (7,686) 4.65 bilinear 224 N / A
tf_efficiennetnet_lite0 74,842 (25.158) 92.170 (7.830) 4.65 bicubic 224 0,875
tf_mobilenetv3_large_075 *tfp 73,730 (26,270) 91.616 (8.384) 3.99 bilinear 224 N / A
tf_mobilenetv3_large_075 73,442 (26,558) 91.352 (8,648) 3.99 bilinear 224 0,875
tf_mobilenetv3_large_minimal_100 *tfp 72.678 (27.322) 90,860 (9.140) 3.92 bilinear 224 N / A
tf_mobilenetv3_large_minimal_100 72,244 (27.756) 90.636 (9.364) 3.92 bilinear 224 0,875
tf_mobilenetv3_small_100 *tfp 67.918 (32.082) 87.958 (12.042 2.54 bilinear 224 N / A
tf_mobilenetv3_small_100 67.918 (32.082) 87.662 (12.338) 2.54 bilinear 224 0,875
tf_mobilenetv3_small_075 *tfp 66.142 (33,858) 86.498 (13.502) 2.04 bilinear 224 N / A
tf_mobilenetv3_small_075 65,718 (34,282) 86.136 (13.864) 2.04 bilinear 224 0,875
tf_mobilenetv3_small_minimal_100 *tfp 63,378 (36,622) 84.802 (15.198) 2.04 bilinear 224 N / A
tf_mobilenetv3_small_minimal_100 62.898 (37.102) 84.230 (15.770) 2.04 bilinear 224 0,875

* tf-preprocessing

Google TF- und Tflite -Gewichte, die aus offiziellen Tensorflow -Repositories portiert sind

  • https://github.com/tensorflow/tpu/tree/master/models/official/mnasnet
  • https://github.com/tensorflow/tpu/tree/master/models/official/efficyNet
  • https://github.com/tensorflow/models/tree/master/research/slim/netets/mobilenet

Verwendung

Umfeld

Alle Entwicklung und Tests wurden in Conda Python 3-Umgebungen auf Linux x86-64-Systemen durchgeführt, insbesondere Python 3.6.x, 3.7.x, 3.8.x.

Benutzer haben berichtet, dass eine Python 3 Anaconda -Installation in Windows funktioniert. Ich habe das selbst nicht überprüft.

Pytorch -Versionen 1.4, 1.5, 1.6 wurden mit diesem Code getestet.

Ich habe versucht, die Abhängigkeiten minimal zu halten. Das Setup entspricht den Anweisungen für Pytorch Standard -Installation für Conda: 

 conda create -n torch-env
conda activate torch-env
conda install -c pytorch pytorch torchvision cudatoolkit=10.2

Pytorch Hub

Modelle können über die Pytorch Hub -API zugegriffen werden 

 >>> torch.hub.list('rwightman/gen-efficientnet-pytorch')
['efficientnet_b0', ...]
>>> model = torch.hub.load('rwightman/gen-efficientnet-pytorch', 'efficientnet_b0', pretrained=True)
>>> model.eval()
>>> output = model(torch.randn(1,3,224,224))

Pip

Dieses Paket kann über PIP installiert werden.

Installation (nach Conda Env/Installation): 

 pip install geffnet

Bewerbung verwenden: 

 >>> import geffnet
>>> m = geffnet.create_model('mobilenetv3_large_100', pretrained=True)
>>> m.eval()

Zugverbrauch: 

 >>> import geffnet
>>> # models can also be created by using the entrypoint directly
>>> m = geffnet.efficientnet_b2(pretrained=True, drop_rate=0.25, drop_connect_rate=0.2)
>>> m.train()

Erstellen Sie in einem nn.sequenziellen Container für Fast.ai usw.: 

 >>> import geffnet
>>> m = geffnet.mixnet_l(pretrained=True, drop_rate=0.25, drop_connect_rate=0.2, as_sequential=True)

Exportieren

Skripte sind enthalten zu

  • Exportmodelle nach ONNX ( onnx_export.py )
  • optimiertes ONNX-Graph ( onnx_optimize.py oder onnx_validate.py W/ --onnx-output-opt ARG)
  • Validieren Sie mit ONNX -Laufzeit ( onnx_validate.py )
  • Konvertieren Sie das ONNX -Modell in Caffe2 ( onnx_to_caffe.py )
  • validieren in Caffe2 ( caffe2_validate.py )
  • Benchmark in Caffe2 mit Flops, Parametern Ausgabe ( caffe2_benchmark.py )

Zum Beispiel zum Exportieren des mobilenet-v3-vorgelagten Modells und dann eine ImageNet-Validierung: 

 python onnx_export.py --model mobilenetv3_large_100 ./mobilenetv3_100.onnx
python onnx_validate.py /imagenet/validation/ --onnx-input ./mobilenetv3_100.onnx

Es wurde getestet, dass diese Skripte als Pytorch 1.6 und ONNX 1.7 W/ ONNX -Laufzeit 1.4 arbeiten. Der kompatible Export von Caffe2 erfordert nun zusätzliche Argumente, die im Exportskript (nicht in früheren Versionen benötigt) erwähnt werden.

Exportnotizen

  1. Die TF -Portedwichte mit dem aktivierten "gleichen" überzeugenden Aktivieren können nicht an ONNX exportiert werden, es sei denn, _EXPORTABLE Flag in config.py ist auf true gesetzt. Verwenden Sie config.set_exportable(True) wie im Skript onnx_export.py .
  2. Die TF -Ported Modelle mit "gleicher" Polsterung haben die Polsterung zum Exportzeit bis zur für den Export verwendeten Auflösung. Obwohl dynamische Polsterung in Opset> = 11 unterstützt wird, kann ich es nicht zum Laufen bringen.
  3. Onnx -Optimiereinrichtung funktioniert in Pytorch 1.6 / ONNX 1.7 nicht zuverlässig. Glücklicherweise funktioniert die Onnxruntime -Basis -Inferenz jetzt sehr gut und beinhaltet die Fliegenoptimierung.
  4. ONNX / Caffe2 Exportieren / Importieren bricht häufig mit verschiedenen Releases von Pytorch und OnNX -Version. Bitte überprüfen Sie ihre jeweiligen Ausgaber -Tracker, bevor Sie hier Probleme einreichen.
Expandieren
Zusätzliche Informationen
Ähnliche Anwendungen
Empfohlen für Sie
Ähnliche Nachrichten Alle