neuropod下載neuropod源代碼下載

neuropod

Python

v0.3.0-rc7

下載

神經腳下

什麼是Neuropod？

Neuropod是一個庫，它提供了一個統一的界面，可以從C ++和Python中的多個框架運行深度學習模型。 Neuropod使研究人員可以輕鬆地在選擇的框架中構建模型，同時簡化這些模型的生產。

目前，它支持Tensorflow，Pytorch，Torchscript，Keras和Ludwig。

有關更多信息：

Uber工程博客文章介紹了神經腳架
在NVIDIA GTC 2021春季談話

為什麼要使用神經腳架？

使用一個API從任何受支持的框架中運行模型

運行TensorFlow模型看起來完全像運行Pytorch模型。

 x = np . array ([ 1 , 2 , 3 , 4 ])
y = np . array ([ 5 , 6 , 7 , 8 ])

for model_path in [ TF_ADDITION_MODEL_PATH , PYTORCH_ADDITION_MODEL_PATH ]:
    # Load the model
    neuropod = load_neuropod ( model_path )

    # Run inference
    results = neuropod . infer ({ "x" : x , "y" : y })

    # array([6, 8, 10, 12])
    print results [ "out" ]

有關更多示例，請參見教程，Python指南或C ++指南。

其中一些好處包括：

您所有的推理代碼都是框架不可知論。
如有必要，您可以輕鬆地在深度學習框架之間切換，而無需更改運行時代碼。
避免使用C ++ Libtorch API和C/C ++ TF API的學習曲線

任何神經模型模型都可以從C ++和Python（甚至尚未轉換為Torchscript的Pytorch模型）運行。

定義問題API

這使您可以更多地關注要解決的問題，而不是要解決問題的框架。

例如，如果您為2D對象檢測定義問題API，則任何實現該問題的模型都可以重用所有現有的推理代碼和基礎架構解決該問題。

 INPUT_SPEC = [
    # BGR image
    { "name" : "image" , "dtype" : "uint8" , "shape" : ( 1200 , 1920 , 3 )},
]

OUTPUT_SPEC = [
    # shape: (num_detections, 4): (xmin, ymin, xmax, ymax)
    # These values are in units of pixels. The origin is the top left corner
    # with positive X to the right and positive Y towards the bottom of the image
    { "name" : "boxes" , "dtype" : "float32" , "shape" : ( "num_detections" , 4 )},

    # The list of classes that the network can output
    # This must be some subset of ['vehicle', 'person', 'motorcycle', 'bicycle']
    { "name" : "supported_object_classes" , "dtype" : "string" , "shape" : ( "num_classes" ,)},

    # The probability of each class for each detection
    # These should all be floats between 0 and 1
    { "name" : "object_class_probability" , "dtype" : "float32" , "shape" : ( "num_detections" , "num_classes" )},
]