nillion aivm

Nillion AIVM

AIVM ist ein modernes Framework, das für die Privatsphäre der Inferenz mit fortschrittlichen kryptografischen Protokollen entwickelt wurde. Mit AIVM können Sie ein lokales Entwicklungsnetzwerk (DEVNET) bereitstellen, um private Inferenz mit angegebenen Beispielen oder benutzerdefinierten Modellen zu untersuchen.

Inhaltsverzeichnis

• AIVM installieren
• AIVM laufen
• Verwendung
  • Private Folgerung
  • Benutzerdefinierte Modell -Upload
• Lizenz

AIVM installieren

1. Erstellen Sie eine virtuelle Umgebung:

   python3 -m venv .venv

2. Aktivieren Sie die virtuelle Umgebung:

   Auf Linux/macOS:

    source .venv/bin/activate

   Unter Windows:

   . v env S cripts a ctivate

3. Installieren Sie das Paket:

   Wenn Sie die Beispiele ausführen möchten, werden ausgeführt:

   pip install " nillion-aivm[examples] "

   Andernfalls können Sie nur:

   pip install nillion-aivm

AIVM laufen

1. Starten Sie das AIVM Devnet:

   aivm-devnet

2. Öffnen Sie die bereitgestellten Jupyter-Notebook-Beispiele/Get-Started.ipynb, um private Inferenzbeispiele auf AIVM zu betreiben.

3. Beenden Sie nach Abschluss Ihrer Aufgaben den DevNet -Prozess, indem Sie CTRL+C drücken.

Verwendung

Für zusätzliche Verwendung finden Sie im Beispiel -Ordner Beispiele, in dem die Einrichtung von privaten Inferenz -Workflows mit AIVM zeigt.

Sichere Schlussfolgerung durchführen

Grundnutzung

1. Importieren Sie zunächst den AIVM -Client und überprüfen Sie die verfügbaren Modelle:

 import aivm_client as aic

# List all supported models
available_models = aic . get_supported_models ()
print ( available_models )

2. Bereiten Sie Ihre Eingabedaten vor. Hier ist ein Beispiel, das Pytorch verwendet, um eine zufällige Eingabe zu generieren:

 import torch

# Create a sample input (e.g., for LeNet5 MNIST)
random_input = torch . randn (( 1 , 1 , 28 , 28 ))  # Batch size 1, 1 channel, 28x28 pixels

3. Verschlüsseln Sie Ihre Eingabe mit dem entsprechenden Kryptensor:

 # Encrypt the input
encrypted_input = aic . LeNet5Cryptensor ( random_input )

4. Sichere Schlussfolgerung durchführen:

 # Get prediction while maintaining privacy
result = aic . get_prediction ( encrypted_input , "LeNet5MNIST" )

Die Funktion get_prediction übernimmt automatisch das sichere Berechnungsprotokoll mit den aivm-devnet -Knoten, sodass Ihre Eingabedaten während des gesamten Inferenzprozesses privat bleiben.

Benutzerdefinierte Modell -Upload

Sie können Ihre eigenen geschulten Modelle für AIVM einsetzen, sofern sie den unterstützten Architekturen (Berttiny oder Lenet5) folgen.

Hochladen benutzerdefinierte Modelle

1. Importieren Sie den AIVM -Kunden:

 import aivm_client as aic

2. Laden Sie Ihr benutzerdefiniertes Modell hoch:

 # For BertTiny models
aic . upload_bert_tiny_model ( model_path , "MyCustomBertTiny" )

# For LeNet5 models
aic . upload_lenet5_model ( model_path , "MyCustomLeNet5" )

3. Führen Sie Inferenz mit Ihrem benutzerdefinierten Modell durch:

 # For BertTiny models
result = aic . get_prediction ( private_berttiny_input , "MyCustomBertTiny" )

# For LeNet5 models
result = aic . get_prediction ( private_lenet5_input , "MyCustomLeNet5" )

Lizenz

Dieses Projekt ist unter der MIT -Lizenz lizenziert.