nillion aivm

Nilhão de AIVM

O AIVM é uma estrutura de ponta projetada para a inferência de preservação da privacidade usando protocolos criptográficos avançados. Com o AIVM, você pode implantar uma rede de desenvolvimento local (DevNet) para explorar a inferência privada usando exemplos ou modelos personalizados.

Índice

• Instalando AIVM
• Executando AIVM
• Uso
  • Inferência privada
  • Upload de modelo personalizado
• Licença

Instalando AIVM

1. Crie um ambiente virtual:

   python3 -m venv .venv

2. Ative o ambiente virtual:

   No Linux/MacOS:

    source .venv/bin/activate

   No Windows:

   . v env S cripts a ctivate

3. Instale o pacote:

   Se você for executar os exemplos executar:

   pip install " nillion-aivm[examples] "

   Caso contrário, se você quiser produzir seu próprio código, poderá apenas:

   pip install nillion-aivm

Executando AIVM

1. Inicie o AIVM Devnet:

   aivm-devnet

2. Abra os exemplos de notebook Jupyter fornecidos/finge-started.ipynb para executar exemplos de inferência privada no AIVM.

3. Depois de concluir suas tarefas, encerre o processo devnet pressionando CTRL+C .

Uso

Para uso adicional, consulte a pasta Exemplos, que demonstra como configurar fluxos de trabalho de inferência privada usando AIVM.

Realizando inferência segura

Uso básico

1. Primeiro, importe o cliente AIVM e verifique os modelos disponíveis:

 import aivm_client as aic

# List all supported models
available_models = aic . get_supported_models ()
print ( available_models )

2. Prepare seus dados de entrada. Aqui está um exemplo usando o pytorch para gerar uma entrada aleatória:

 import torch

# Create a sample input (e.g., for LeNet5 MNIST)
random_input = torch . randn (( 1 , 1 , 28 , 28 ))  # Batch size 1, 1 channel, 28x28 pixels

3. Criptografar sua entrada usando o criptonsor apropriado:

 # Encrypt the input
encrypted_input = aic . LeNet5Cryptensor ( random_input )

4. Execute inferência segura:

 # Get prediction while maintaining privacy
result = aic . get_prediction ( encrypted_input , "LeNet5MNIST" )

A função get_prediction lida automaticamente no protocolo de computação seguro com os nós aivm-devnet , garantindo que seus dados de entrada permaneçam privados durante todo o processo de inferência.

Upload de modelo personalizado

Você pode implantar seus próprios modelos treinados no AIVM, desde que eles sigam as arquiteturas suportadas (Berttiny ou LeNet5).

Carregando modelos personalizados

1. Importe o cliente AIVM:

 import aivm_client as aic

2. Carregue seu modelo personalizado:

 # For BertTiny models
aic . upload_bert_tiny_model ( model_path , "MyCustomBertTiny" )

# For LeNet5 models
aic . upload_lenet5_model ( model_path , "MyCustomLeNet5" )

3. Realize a inferência com seu modelo personalizado:

 # For BertTiny models
result = aic . get_prediction ( private_berttiny_input , "MyCustomBertTiny" )

# For LeNet5 models
result = aic . get_prediction ( private_lenet5_input , "MyCustomLeNet5" )

Licença

Este projeto está licenciado sob a licença do MIT.