frugally deep - pengunduhan kode sumber frugally deep

frugally deep

C/C++

v0.16.0

Unduh

sangat hemat

Gunakan model Keras di C++ dengan mudah

Daftar isi

Perkenalan
Penggunaan
Persyaratan dan Instalasi
Pertanyaan Umum

Perkenalan

Apakah Anda ingin membuat/melatih model menggunakan Keras/Python? Dan apakah Anda ingin menjalankan prediksi (forward pass) pada model Anda di C++ tanpa menautkan aplikasi Anda ke TensorFlow? Maka hemat dalam-dalam adalah pilihan yang tepat untuk Anda.

sangat hemat

adalah perpustakaan kecil khusus header yang ditulis dalam C++ modern dan murni.
sangat mudah untuk diintegrasikan dan digunakan.
hanya bergantung pada FunctionalPlus, Eigen dan json - juga perpustakaan khusus header.
mendukung inferensi ( model.predict ) tidak hanya untuk model sekuensial tetapi juga untuk grafik komputasi dengan topologi yang lebih kompleks, dibuat dengan API fungsional.
mengimplementasikan kembali sebagian kecil TensorFlow, yaitu operasi yang diperlukan untuk mendukung prediksi.
menghasilkan ukuran biner yang jauh lebih kecil dibandingkan penautan dengan TensorFlow.
berfungsi out-of-the-box juga ketika dikompilasi menjadi executable 32-bit. (Tentu saja, 64 bit juga baik-baik saja.)
menghindari pengalokasian sementara (kemungkinan potongan besar) RAM tambahan selama konvolusi (dengan tidak mewujudkan matriks input im2col).
benar-benar mengabaikan GPU paling kuat sekalipun di sistem Anda dan hanya menggunakan satu inti CPU per prediksi. ;-)
namun cukup cepat pada satu inti CPU, dan Anda dapat menjalankan beberapa prediksi secara paralel, sehingga memanfaatkan CPU sebanyak yang Anda inginkan untuk meningkatkan throughput prediksi keseluruhan aplikasi/pipa Anda.

Jenis lapisan yang didukung

Add , Concatenate , Subtract , Multiply , Average , Maximum , Minimum , Dot
AveragePooling1D/2D/3D , GlobalAveragePooling1D/2D/3D
TimeDistributed
Conv1D/2D , SeparableConv2D , DepthwiseConv2D
Cropping1D/2D/3D , ZeroPadding1D/2D/3D , CenterCrop
BatchNormalization , Dense , Flatten , Normalization
Dropout , AlphaDropout , GaussianDropout , GaussianNoise
SpatialDropout1D , SpatialDropout2D , SpatialDropout3D
ActivityRegularization , LayerNormalization , UnitNormalization
RandomContrast , RandomFlip , RandomHeight
RandomRotation , RandomTranslation , RandomWidth , RandomZoom
MaxPooling1D/2D/3D , GlobalMaxPooling1D/2D/3D
ELU , LeakyReLU , ReLU , SeLU , PReLU
Sigmoid , Softmax , Softplus , Tanh
Exponential , GELU , Softsign , Rescaling
UpSampling1D/2D , Resizing
Reshape , Permute , RepeatVector
Embedding , CategoryEncoding
Attention , AdditiveAttention , MultiHeadAttention

Juga didukung

beberapa input dan output
model bersarang
koneksi sisa
lapisan bersama
bentuk masukan variabel
arsitektur model kompleks / grafik komputasi yang sewenang-wenang
lapisan khusus (dengan meneruskan fungsi pabrik khusus ke load_model )

Yang saat ini tidak didukung adalah sebagai berikut:

Conv2DTranspose (mengapa), Lambda (mengapa), Conv3D , ConvLSTM1D , ConvLSTM2D , Discretization , GRUCell , Hashing , IntegerLookup , LocallyConnected1D , LocallyConnected2D , LSTMCell , Masking , RepeatVector , RNN , SimpleRNN , SimpleRNNCell , StackedRNNCells , StringLookup , TextVectorization , Bidirectional , GRU , LSTM , CuDNNGRU , CuDNNLSTM , ThresholdedReLU , Upsampling3D , model temporal

Penggunaan

Gunakan Keras/Python untuk membangun ( model.compile(...) ), melatih ( model.fit(...) ) dan menguji ( model.evaluate(...) ) model Anda seperti biasa. Kemudian simpan ke satu file menggunakan model.save('....keras') . image_data_format dalam model Anda channels_last , yang merupakan default saat menggunakan backend TensorFlow. Model yang dibuat dengan image_data_format dan backend lain yang berbeda tidak didukung.
Sekarang konversikan ke format file yang hemat dengan keras_export/convert_model.py
Terakhir muat dalam C++ ( fdeep::load_model(...) ) dan gunakan model.predict(...) untuk menjalankan forward pass dengan data Anda.

Contoh minimal berikut menunjukkan alur kerja lengkap:

 # create_model.py
import numpy as np
from tensorflow . keras . layers import Input , Dense
from tensorflow . keras . models import Model

inputs = Input ( shape = ( 4 ,))
x = Dense ( 5 , activation = 'relu' )( inputs )
predictions = Dense ( 3 , activation = 'softmax' )( x )
model = Model ( inputs = inputs , outputs = predictions )
model . compile ( loss = 'categorical_crossentropy' , optimizer = 'nadam' )

model . fit (
    np . asarray ([[ 1 , 2 , 3 , 4 ], [ 2 , 3 , 4 , 5 ]]),
    np . asarray ([[ 1 , 0 , 0 ], [ 0 , 0 , 1 ]]), epochs = 10 )

model . save ( 'keras_model.keras' )

python3 keras_export/convert_model.py keras_model.keras fdeep_model.json

 // main.cpp
# include < fdeep/fdeep.hpp >
int main ()
{
    const auto model = fdeep::load_model ( " fdeep_model.json " );
    const auto result = model. predict (
        { fdeep::tensor ( fdeep::tensor_shape ( static_cast <std:: size_t >( 4 )),
        std::vector< float >{ 1 , 2 , 3 , 4 })});
    std::cout << fdeep::show_tensors (result) << std::endl;
}

Saat menggunakan convert_model.py kasus uji (input dan nilai output terkait) dihasilkan secara otomatis dan disimpan bersama dengan model Anda. fdeep::load_model menjalankan tes ini untuk memastikan hasil forward pass di frugally-deep sama dengan di Keras.

Untuk contoh integrasi lainnya, silakan lihat FAQ.

Persyaratan dan Instalasi

Kompiler yang kompatibel dengan C++14 : Kompiler dari versi ini baik-baik saja: GCC 4.9, Dentang 3.7 (libc++ 3.7) dan Visual C++ 2015
Python 3.7 atau lebih tinggi
TensorFlow 2.17 (Ini adalah versi yang diuji, tetapi versi yang lebih lama mungkin juga bisa digunakan.)

Panduan untuk berbagai cara menginstal secara hemat dapat ditemukan di INSTALL.md .

Pertanyaan Umum

Lihat FAQ.md

Penafian

API perpustakaan ini mungkin masih berubah di masa mendatang. Jika Anda mempunyai saran, menemukan kesalahan, atau ingin memberikan masukan/kritik umum, saya ingin mendengar pendapat Anda. Tentu saja, kontribusinya juga sangat diharapkan.