onnx simplifier Download - onnx simplifier Quellcode Download

onnx simplifier

Python

1.0.0

Herunterladen

Onnx Simplifier

Onnx ist großartig, aber manchmal zu kompliziert.

Hintergrund

Eines Tages wollte ich den folgenden einfachen Umgestaltungsvorgang nach ONNX exportieren:

 import torch


class JustReshape ( torch . nn . Module ):
    def __init__ ( self ):
        super ( JustReshape , self ). __init__ ()

    def forward ( self , x ):
        return x . view (( x . shape [ 0 ], x . shape [ 1 ], x . shape [ 3 ], x . shape [ 2 ]))


net = JustReshape ()
model_name = 'just_reshape.onnx'
dummy_input = torch . randn ( 2 , 3 , 4 , 5 )
torch . onnx . export ( net , dummy_input , model_name , input_names = [ 'input' ], output_names = [ 'output' ])

Die Eingangsform in diesem Modell ist statisch, also erwartete ich, dass ich erwartet habe

Simple_Reshape

Ich habe jedoch stattdessen das folgende komplizierte Modell erhalten:

Complicated_Reshape

Unsere Lösung

Onnx Simplifier wird dargestellt, um das ONNX -Modell zu vereinfachen. Es färbt das gesamte Berechnungsdiagramm und ersetzt dann die redundanten Operatoren durch ihre konstanten Ausgänge (auch bekannt als konstante Faltung).

Webversion

Wir haben Onnx Simplifier auf ConvertModel.com veröffentlicht. Es funktioniert aus der Schachtel und benötigt keine Installation . Beachten Sie, dass es im Browser lokal ausgeführt wird und Ihr Modell völlig sicher ist.

Python -Version

 pip3 install -U pip && pip3 install onnxsim

Dann

 onnxsim input_onnx_model output_onnx_model

Weitere erweiterte Funktionen finden Sie den folgenden Befehl, um Hilfe bei der Hilfe zu erhalten

 onnxsim -h

Demonstration

Ein Gesamtvergleich zwischen einem komplizierten Modell und seiner vereinfachten Version:

Vergleich zwischen altem und neuem Modell

In-Script-Workflow

Wenn Sie das Python -Paket für Simplifikator in einem anderen Skript einbetten möchten, ist es einfach so einfach.

 import onnx
from onnxsim import simplify

# load your predefined ONNX model
model = onnx . load ( filename )

# convert model
model_simp , check = simplify ( model )

assert check , "Simplified ONNX model could not be validated"

# use model_simp as a standard ONNX model object