nillion aivm

Nillion aivm

AIVM es un marco de vanguardia diseñado para la inferencia de preservación de la privacidad utilizando protocolos criptográficos avanzados. Con AIVM, puede implementar una red de desarrollo local (DevNet) para explorar la inferencia privada utilizando ejemplos proporcionados o modelos personalizados.

Tabla de contenido

• Instalación de AIVM
• Corriendo aivm
• Uso
  • Inferencia privada
  • Carga de modelo personalizado
• Licencia

Instalación de AIVM

1. Crear un entorno virtual:

   python3 -m venv .venv

2. Active el entorno virtual:

   En Linux/macOS:

    source .venv/bin/activate

   En Windows:

   . v env S cripts a ctivate

3. Instale el paquete:

   Si va a ejecutar los ejemplos, ejecute:

   pip install " nillion-aivm[examples] "

   De lo contrario, si va a producir su propio código, puede simplemente:

   pip install nillion-aivm

Corriendo aivm

1. Inicie el aivm devnet:

   aivm-devnet

2. Abra los ejemplos de cuaderno Jupyter proporcionados/Getting-starded.ipynb para ejecutar ejemplos de inferencias privadas en AIVM.

3. Después de completar sus tareas, termine el proceso DevNet presionando CTRL+C .

Uso

Para un uso adicional, consulte la carpeta de ejemplos, que demuestra cómo configurar flujos de trabajo de inferencia privada utilizando AIVM.

Realizar una inferencia segura

Uso básico

1. Primero, importe el cliente AIVM y verifique los modelos disponibles:

 import aivm_client as aic

# List all supported models
available_models = aic . get_supported_models ()
print ( available_models )

2. Prepare sus datos de entrada. Aquí hay un ejemplo usando Pytorch para generar una entrada aleatoria:

 import torch

# Create a sample input (e.g., for LeNet5 MNIST)
random_input = torch . randn (( 1 , 1 , 28 , 28 ))  # Batch size 1, 1 channel, 28x28 pixels

3. Cifre su entrada utilizando el criptensor apropiado:

 # Encrypt the input
encrypted_input = aic . LeNet5Cryptensor ( random_input )

4. Realizar una inferencia segura:

 # Get prediction while maintaining privacy
result = aic . get_prediction ( encrypted_input , "LeNet5MNIST" )

La función get_prediction maneja automáticamente el protocolo de cálculo seguro con los nodos aivm-devnet , asegurando que sus datos de entrada sigan siendo privados durante todo el proceso de inferencia.

Carga de modelo personalizado

Puede implementar sus propios modelos capacitados en AIVM, siempre que sigan las arquitecturas compatibles (Berttiny o Lenet5).

Subiendo modelos personalizados

1. Importar el cliente AIVM:

 import aivm_client as aic

2. Sube tu modelo personalizado:

 # For BertTiny models
aic . upload_bert_tiny_model ( model_path , "MyCustomBertTiny" )

# For LeNet5 models
aic . upload_lenet5_model ( model_path , "MyCustomLeNet5" )

3. Realice una inferencia con su modelo personalizado:

 # For BertTiny models
result = aic . get_prediction ( private_berttiny_input , "MyCustomBertTiny" )

# For LeNet5 models
result = aic . get_prediction ( private_lenet5_input , "MyCustomLeNet5" )

Licencia

Este proyecto tiene licencia bajo la licencia MIT.