nillion aivm

nillion AIVM

AIVM是一个辅助使用高级加密协议的尖端框架。使用AIVM，您可以使用提供的示例或自定义模型来部署本地开发网络（DEVNET）来探索私人推理。

目录

• 安装AIVM
• 运行AIVM
• 用法
  • 私人推论
  • 自定义模型上传
• 执照

安装AIVM

1. 创建虚拟环境：

   python3 -m venv .venv

2. 激活虚拟环境：

   在Linux/MacOS上：

    source .venv/bin/activate

   在Windows上：

   . v env S cripts a ctivate

3. 安装软件包：

   如果要执行示例执行：

   pip install " nillion-aivm[examples] "

   否则，如果您要制作自己的代码，则可以：

   pip install nillion-aivm

运行AIVM

1. 启动AIVM DEVNET：

   aivm-devnet

2. 打开提供的jupyter笔记本示例/启动。IPYNB以在AIVM上运行私人推理示例。

3. 完成任务后，通过按CTRL+C终止DEVNET过程。

用法

有关其他用法，请参阅示例文件夹，该文件夹演示了如何使用AIVM设置私有推理工作流。

执行安全推理

基本用法

1. 首先，导入AIVM客户端并检查可用模型：

 import aivm_client as aic

# List all supported models
available_models = aic . get_supported_models ()
print ( available_models )

2. 准备您的输入数据。这是使用Pytorch生成随机输入的示例：

 import torch

# Create a sample input (e.g., for LeNet5 MNIST)
random_input = torch . randn (( 1 , 1 , 28 , 28 ))  # Batch size 1, 1 channel, 28x28 pixels

3. 使用适当的隐脚器加密输入：

 # Encrypt the input
encrypted_input = aic . LeNet5Cryptensor ( random_input )

4. 执行安全推理：

 # Get prediction while maintaining privacy
result = aic . get_prediction ( encrypted_input , "LeNet5MNIST" )

get_prediction函数将使用aivm-devnet节点自动处理安全的计算协议，以确保您的输入数据在整个推理过程中保持私密。

自定义模型上传

您可以将自己的训练有素的模型部署到AIVM，只要它们遵循支持的架构（Berttiny或Lenet5）。

上传自定义模型

1. 导入AIVM客户端：

 import aivm_client as aic

2. 上传您的自定义模型：

 # For BertTiny models
aic . upload_bert_tiny_model ( model_path , "MyCustomBertTiny" )

# For LeNet5 models
aic . upload_lenet5_model ( model_path , "MyCustomLeNet5" )

3. 使用您的自定义模型进行推断：

 # For BertTiny models
result = aic . get_prediction ( private_berttiny_input , "MyCustomBertTiny" )

# For LeNet5 models
result = aic . get_prediction ( private_lenet5_input , "MyCustomLeNet5" )

执照

该项目已根据MIT许可获得许可。