Téléchargement frugally deep - Téléchargement du code source frugally deep

frugally deep

C/C++

v0.16.0

Télécharger

frugalement-profond

Utilisez facilement les modèles Keras en C++

Table des matières

Introduction
Usage
Exigences et installation
FAQ

Introduction

Souhaitez-vous créer/entraîner un modèle à l’aide de Keras/Python ? Et souhaitez-vous exécuter la prédiction (forward pass) sur votre modèle en C++ sans lier votre application à TensorFlow ? Alors frugaly-deep est exactement pour vous.

frugalement-profond

est une petite bibliothèque d'en-tête uniquement écrite en C++ moderne et pur.
est très simple à intégrer et à utiliser.
dépend uniquement de FunctionalPlus, Eigen et json - également des bibliothèques d'en-tête uniquement.
prend en charge l'inférence ( model.predict ) non seulement pour les modèles séquentiels mais également pour les graphiques informatiques avec une topologie plus complexe, créés avec l'API fonctionnelle.
réimplémente un (petit) sous-ensemble de TensorFlow, c'est-à-dire les opérations nécessaires à la prise en charge de la prédiction.
entraîne une taille binaire beaucoup plus petite que la liaison avec TensorFlow.
fonctionne également immédiatement lorsqu'il est compilé dans un exécutable 32 bits. (Bien sûr, 64 bits convient également.)
évite d'allouer temporairement (potentiellement de gros morceaux de) de RAM supplémentaire pendant les convolutions (en ne matérialisant pas la matrice d'entrée im2col).
ignore complètement même le GPU le plus puissant de votre système et n'utilise qu'un seul cœur de processeur par prédiction. ;-)
mais il est assez rapide sur un cœur de processeur, et vous pouvez exécuter plusieurs prédictions en parallèle, utilisant ainsi autant de processeurs que vous le souhaitez pour améliorer le débit global de prédiction de votre application/pipeline.

Types de calques pris en charge

Add , Concatenate , Subtract , Multiply , Average , Maximum , Minimum , Dot
AveragePooling1D/2D/3D , GlobalAveragePooling1D/2D/3D
TimeDistributed
Conv1D/2D , SeparableConv2D , DepthwiseConv2D
Cropping1D/2D/3D , ZeroPadding1D/2D/3D , CenterCrop
BatchNormalization , Dense , Flatten , Normalization
Dropout , AlphaDropout , GaussianDropout , GaussianNoise
SpatialDropout1D , SpatialDropout2D , SpatialDropout3D
ActivityRegularization , LayerNormalization , UnitNormalization
RandomContrast , RandomFlip , RandomHeight
RandomRotation , RandomTranslation , RandomWidth , RandomZoom
MaxPooling1D/2D/3D , GlobalMaxPooling1D/2D/3D
ELU , LeakyReLU , ReLU , SeLU , PReLU
Sigmoid , Softmax , Softplus , Tanh
Exponential , GELU , Softsign , Rescaling
UpSampling1D/2D , Resizing
Reshape , Permute , RepeatVector
Embedding , CategoryEncoding
Attention , AdditiveAttention , MultiHeadAttention

Également pris en charge

plusieurs entrées et sorties
modèles imbriqués
connexions résiduelles
calques partagés
formes d'entrée variables
architectures de modèles complexes arbitraires / graphiques informatiques
couches personnalisées (en passant des fonctions d'usine personnalisées à load_model )

Les éléments suivants ne sont actuellement pas pris en charge :

Conv2DTranspose (pourquoi), Lambda (pourquoi), Conv3D , ConvLSTM1D , ConvLSTM2D , Discretization , GRUCell , Hashing , IntegerLookup , LocallyConnected1D , LocallyConnected2D , LSTMCell , Masking , RepeatVector , RNN , SimpleRNN , SimpleRNNCell , StackedRNNCells , StringLookup , TextVectorization , Bidirectional , GRU , LSTM , CuDNNGRU , CuDNNLSTM , ThresholdedReLU , Upsampling3D , modèles temporal

Usage

Utilisez Keras/Python pour construire ( model.compile(...) ), entraîner ( model.fit(...) ) et tester ( model.evaluate(...) ) votre modèle comme d'habitude. Enregistrez-le ensuite dans un seul fichier en utilisant model.save('....keras') . Le image_data_format dans votre modèle doit channels_last , qui est la valeur par défaut lors de l'utilisation du backend TensorFlow. Les modèles créés avec un autre image_data_format et d'autres backends ne sont pas pris en charge.
Maintenant, convertissez-le au format de fichier économe avec keras_export/convert_model.py
Enfin, chargez-le en C++ ( fdeep::load_model(...) ) et utilisez model.predict(...) pour invoquer une passe avant avec vos données.

L'exemple minimal suivant montre le flux de travail complet :

 # create_model.py
import numpy as np
from tensorflow . keras . layers import Input , Dense
from tensorflow . keras . models import Model

inputs = Input ( shape = ( 4 ,))
x = Dense ( 5 , activation = 'relu' )( inputs )
predictions = Dense ( 3 , activation = 'softmax' )( x )
model = Model ( inputs = inputs , outputs = predictions )
model . compile ( loss = 'categorical_crossentropy' , optimizer = 'nadam' )

model . fit (
    np . asarray ([[ 1 , 2 , 3 , 4 ], [ 2 , 3 , 4 , 5 ]]),
    np . asarray ([[ 1 , 0 , 0 ], [ 0 , 0 , 1 ]]), epochs = 10 )

model . save ( 'keras_model.keras' )

python3 keras_export/convert_model.py keras_model.keras fdeep_model.json

 // main.cpp
# include < fdeep/fdeep.hpp >
int main ()
{
    const auto model = fdeep::load_model ( " fdeep_model.json " );
    const auto result = model. predict (
        { fdeep::tensor ( fdeep::tensor_shape ( static_cast <std:: size_t >( 4 )),
        std::vector< float >{ 1 , 2 , 3 , 4 })});
    std::cout << fdeep::show_tensors (result) << std::endl;
}

Lorsque vous utilisez convert_model.py un scénario de test (valeurs d'entrée et de sortie correspondantes) est généré automatiquement et enregistré avec votre modèle. fdeep::load_model exécute ce test pour s'assurer que les résultats d'une passe avant dans frugally-deep sont les mêmes que dans Keras.

Pour plus d’exemples d’intégration, veuillez consulter la FAQ.

Exigences et installation

Un compilateur compatible C++14 : les compilateurs à partir de ces versions conviennent : GCC 4.9, Clang 3.7 (libc++ 3.7) et Visual C++ 2015
Python 3.7 ou supérieur
TensorFlow 2.17 (Ce sont les versions testées, mais des versions un peu plus anciennes peuvent également fonctionner.)

Des guides sur les différentes manières d’installer de manière économe et approfondie peuvent être trouvés dans INSTALL.md .

FAQ

Voir FAQ.md

Clause de non-responsabilité

L'API de cette bibliothèque pourrait encore changer dans le futur. Si vous avez des suggestions, trouvez des erreurs ou souhaitez formuler des commentaires/critiques d'ordre général, j'aimerais avoir de vos nouvelles. Bien entendu, les contributions sont également les bienvenues.