AIVM adalah kerangka kerja mutakhir yang dirancang untuk inferensi pemeliharaan privasi menggunakan protokol kriptografi canggih. Dengan AIVM, Anda dapat menggunakan jaringan pengembangan lokal (DevNet) untuk mengeksplorasi inferensi pribadi menggunakan contoh atau model khusus yang disediakan.
Buat lingkungan virtual:
python3 -m venv .venvAktifkan lingkungan virtual:
Di Linux/MacOS:
source .venv/bin/activateDi Windows:
. v env S cripts a ctivateInstal paket:
Jika Anda akan menjalankan contoh, jalankan:
pip install " nillion-aivm[examples] "Jika tidak, jika Anda akan menghasilkan kode sendiri, Anda bisa hanya:
pip install nillion-aivmMulai AIVM DevNet:
aivm-devnetBuka contoh notebook jupyter yang disediakan/getting-started.ipynb untuk menjalankan contoh inferensi pribadi di AIVM.
Setelah menyelesaikan tugas Anda, hentikan proses DevNet dengan menekan CTRL+C .
Untuk penggunaan tambahan, lihat folder contoh, yang menunjukkan cara mengatur alur kerja inferensi pribadi menggunakan AIVM.
import aivm_client as aic
# List all supported models
available_models = aic . get_supported_models ()
print ( available_models ) import torch
# Create a sample input (e.g., for LeNet5 MNIST)
random_input = torch . randn (( 1 , 1 , 28 , 28 )) # Batch size 1, 1 channel, 28x28 pixels # Encrypt the input
encrypted_input = aic . LeNet5Cryptensor ( random_input ) # Get prediction while maintaining privacy
result = aic . get_prediction ( encrypted_input , "LeNet5MNIST" ) Fungsi get_prediction secara otomatis menangani protokol komputasi yang aman dengan node aivm-devnet , memastikan bahwa data input Anda tetap pribadi di seluruh proses inferensi.
Anda dapat menggunakan model terlatih Anda sendiri ke AIVM, asalkan mereka mengikuti arsitektur yang didukung (Berttiny atau Lenet5).
import aivm_client as aic # For BertTiny models
aic . upload_bert_tiny_model ( model_path , "MyCustomBertTiny" )
# For LeNet5 models
aic . upload_lenet5_model ( model_path , "MyCustomLeNet5" ) # For BertTiny models
result = aic . get_prediction ( private_berttiny_input , "MyCustomBertTiny" )
# For LeNet5 models
result = aic . get_prediction ( private_lenet5_input , "MyCustomLeNet5" )Proyek ini dilisensikan di bawah lisensi MIT.