frugally deep下載 - frugally deep源碼下載

frugally deep

C/C++

v0.16.0

下載

節儉深

輕鬆使用 C++ 中的 Keras 模型

介紹

您想使用 Keras/Python 建立/訓練模型嗎？您是否希望在 C++ 中對您的模型運行預測（前向傳遞），而不將您的應用程式與 TensorFlow 連結？那麼節儉深度正是適合您的。

節儉深

是一個用現代純 C++ 寫的小型純頭檔庫。
非常容易整合和使用。
僅依賴FunctionalPlus、Eigen 和json——也是僅標頭庫。
不僅支援順序模型的推理 ( model.predict )，還支援使用函數式 API 建立的具有更複雜拓撲的計算圖。
重新實作 TensorFlow 的（小）子集，即支援預測所需的操作。
與 TensorFlow 連結相比，二進位大小要小得多。
編譯成 32 位元可執行檔時，也可以開箱即用。（當然64位也可以。）
避免在卷積期間暫時分配（可能是大塊）額外的 RAM（透過不具體化 im2col 輸入矩陣）。
甚至完全忽略系統中最強大的 GPU，每次預測僅使用一個 CPU 核心。 ;-)
但在一個 CPU 核心上速度相當快，而且您可以並行運行多個預測，從而利用盡可能多的 CPU 來提高應用程式/管道的整體預測吞吐量。

支援的圖層類型

Add 、 Concatenate 、 Subtract 、 Multiply 、 Average 、 Maximum 、 Minimum 、 Dot
AveragePooling1D/2D/3D GlobalAveragePooling1D/2D/3D
TimeDistributed
Conv1D/2D 、 SeparableConv2D 、 DepthwiseConv2D
Cropping1D/2D/3D 、 ZeroPadding1D/2D/3D 、 CenterCrop
大量BatchNormalization 、 Dense 、 Flatten 、 Normalization
Dropout 、 AlphaDropout 、 GaussianDropout 、 GaussianNoise
SpatialDropout1D 、 SpatialDropout2D 、 SpatialDropout3D
ActivityRegularization 、 LayerNormalization 、 UnitNormalization
RandomContrast 、 RandomFlip 、 RandomHeight
RandomRotation 、 RandomTranslation 、 RandomWidth 、 RandomZoom
MaxPooling1D/2D/3D GlobalMaxPooling1D/2D/3D
ELU , LeakyReLU , ReLU , SeLU , PReLU
Sigmoid 、 Softmax 、 Softplus 、 Tanh
Exponential , GELU , Softsign , Rescaling
UpSampling1D/2D ， Resizing
Reshape 、 Permute 、 RepeatVector
Embedding , CategoryEncoding
Attention 、 AdditiveAttention 、 MultiHeadAttention

還支持

多個輸入和輸出
嵌套模型
剩餘連接
共享層
可變輸入形狀
任意複雜模型架構/計算圖
自訂層（透過將自訂工廠函數傳遞給load_model ）

目前不支援以下內容：

Conv2DTranspose StackedRNNCells為什麼）、 Lambda （為什麼）、 Conv3D 、 ConvLSTM1D 、 ConvLSTM2D 、 Discretization RNN GRUCell SimpleRNN Hashing SimpleRNNCell IntegerLookup 、 LocallyConnected1D 、 LocallyConnected2D 、 LSTMCell 、 RepeatVector Masking 、 StringLookup 、 TextVectorization , Bidirectional , GRU , LSTM 、 CuDNNGRU 、 CuDNNLSTM 、 ThresholdedReLU 、 Upsampling3D 、 temporal模型

用法

照常使用 Keras/Python 建構（ model.compile(...) ）、訓練（ model.fit(...) ）和測試（ model.evaluate(...) ）模型。然後使用model.save('....keras')將其儲存到單一檔案。模型中的image_data_format必須是channels_last ，這是使用 TensorFlow 後端時的預設值。不支援使用不同image_data_format和其他後端建立的模型。
現在使用keras_export/convert_model.py將其轉換為節儉深度檔案格式
最後用 C++ ( fdeep::load_model(...) ) 載入它並使用model.predict(...)呼叫資料的前向傳遞。

以下最小範例顯示了完整的工作流程：

 # create_model.py
import numpy as np
from tensorflow . keras . layers import Input , Dense
from tensorflow . keras . models import Model

inputs = Input ( shape = ( 4 ,))
x = Dense ( 5 , activation = 'relu' )( inputs )
predictions = Dense ( 3 , activation = 'softmax' )( x )
model = Model ( inputs = inputs , outputs = predictions )
model . compile ( loss = 'categorical_crossentropy' , optimizer = 'nadam' )

model . fit (
    np . asarray ([[ 1 , 2 , 3 , 4 ], [ 2 , 3 , 4 , 5 ]]),
    np . asarray ([[ 1 , 0 , 0 ], [ 0 , 0 , 1 ]]), epochs = 10 )

model . save ( 'keras_model.keras' )

python3 keras_export/convert_model.py keras_model.keras fdeep_model.json

 // main.cpp
# include < fdeep/fdeep.hpp >
int main ()
{
    const auto model = fdeep::load_model ( " fdeep_model.json " );
    const auto result = model. predict (
        { fdeep::tensor ( fdeep::tensor_shape ( static_cast <std:: size_t >( 4 )),
        std::vector< float >{ 1 , 2 , 3 , 4 })});
    std::cout << fdeep::show_tensors (result) << std::endl;
}