frugally deep下载 - frugally deep源代码下载

frugally deep

C/C++

v0.16.0

下载

节俭深

轻松使用 C++ 中的 Keras 模型

介绍

您想使用 Keras/Python 构建/训练模型吗？您是否希望在 C++ 中对您的模型运行预测（前向传递），而不将您的应用程序与 TensorFlow 链接？那么节俭深度正是适合您的。

节俭深

是一个用现代纯 C++ 编写的小型纯头文件库。
非常容易集成和使用。
仅依赖于FunctionalPlus、Eigen 和json——也是仅标头库。
不仅支持顺序模型的推理 ( model.predict )，还支持使用函数式 API 创建的具有更复杂拓扑的计算图。
重新实现 TensorFlow 的（小）子集，即支持预测所需的操作。
与 TensorFlow 链接相比，二进制大小要小得多。
当编译成 32 位可执行文件时，也可以开箱即用。（当然64位也可以。）
避免在卷积期间临时分配（可能是大块）额外的 RAM（通过不具体化 im2col 输入矩阵）。
甚至完全忽略系统中最强大的 GPU，每次预测仅使用一个 CPU 核心。 ;-)
但在一个 CPU 核心上速度相当快，并且您可以并行运行多个预测，从而利用尽可能多的 CPU 来提高应用程序/管道的整体预测吞吐量。

支持的图层类型

Add 、 Concatenate 、 Subtract 、 Multiply 、 Average 、 Maximum 、 Minimum 、 Dot
AveragePooling1D/2D/3D 、 GlobalAveragePooling1D/2D/3D
TimeDistributed
Conv1D/2D 、 SeparableConv2D 、 DepthwiseConv2D
Cropping1D/2D/3D 、 ZeroPadding1D/2D/3D 、 CenterCrop
BatchNormalization 、 Dense 、 Flatten 、 Normalization
Dropout 、 AlphaDropout 、 GaussianDropout 、 GaussianNoise
SpatialDropout1D 、 SpatialDropout2D 、 SpatialDropout3D
ActivityRegularization 、 LayerNormalization 、 UnitNormalization
RandomContrast 、 RandomFlip 、 RandomHeight
RandomRotation 、 RandomTranslation 、 RandomWidth 、 RandomZoom
MaxPooling1D/2D/3D 、 GlobalMaxPooling1D/2D/3D
ELU , LeakyReLU , ReLU , SeLU , PReLU
Sigmoid 、 Softmax 、 Softplus 、 Tanh
Exponential , GELU , Softsign , Rescaling
UpSampling1D/2D ， Resizing
Reshape 、 Permute 、 RepeatVector
Embedding , CategoryEncoding
Attention 、 AdditiveAttention 、 MultiHeadAttention

还支持

多个输入和输出
嵌套模型
剩余连接
共享层
可变输入形状
任意复杂模型架构/计算图
自定义层（通过将自定义工厂函数传递给load_model ）

目前不支持以下内容：

Conv2DTranspose （为什么）、 Lambda （为什么）、 Conv3D 、 ConvLSTM1D 、 ConvLSTM2D 、 Discretization 、 GRUCell 、 Hashing 、 IntegerLookup 、 LocallyConnected1D 、 LocallyConnected2D 、 LSTMCell 、 Masking 、 RepeatVector 、 RNN 、 SimpleRNN 、 SimpleRNNCell 、 StackedRNNCells 、 StringLookup 、 TextVectorization 、 Bidirectional 、 GRU 、 LSTM 、 CuDNNGRU 、 CuDNNLSTM 、 ThresholdedReLU 、 Upsampling3D 、 temporal模型

用法

照常使用 Keras/Python 构建（ model.compile(...) ）、训练（ model.fit(...) ）和测试（ model.evaluate(...) ）模型。然后使用model.save('....keras')将其保存到单个文件。模型中的image_data_format必须是channels_last ，这是使用 TensorFlow 后端时的默认值。不支持使用不同image_data_format和其他后端创建的模型。
现在使用keras_export/convert_model.py将其转换为节俭深度文件格式
最后用 C++ ( fdeep::load_model(...) ) 加载它并使用model.predict(...)调用数据的前向传递。

以下最小示例显示了完整的工作流程：

 # create_model.py
import numpy as np
from tensorflow . keras . layers import Input , Dense
from tensorflow . keras . models import Model

inputs = Input ( shape = ( 4 ,))
x = Dense ( 5 , activation = 'relu' )( inputs )
predictions = Dense ( 3 , activation = 'softmax' )( x )
model = Model ( inputs = inputs , outputs = predictions )
model . compile ( loss = 'categorical_crossentropy' , optimizer = 'nadam' )

model . fit (
    np . asarray ([[ 1 , 2 , 3 , 4 ], [ 2 , 3 , 4 , 5 ]]),
    np . asarray ([[ 1 , 0 , 0 ], [ 0 , 0 , 1 ]]), epochs = 10 )

model . save ( 'keras_model.keras' )

python3 keras_export/convert_model.py keras_model.keras fdeep_model.json

 // main.cpp
# include < fdeep/fdeep.hpp >
int main ()
{
    const auto model = fdeep::load_model ( " fdeep_model.json " );
    const auto result = model. predict (
        { fdeep::tensor ( fdeep::tensor_shape ( static_cast <std:: size_t >( 4 )),
        std::vector< float >{ 1 , 2 , 3 , 4 })});
    std::cout << fdeep::show_tensors (result) << std::endl;
}