opacus

---

Opacus ist eine Bibliothek, die es ermöglicht, Pytorch -Modelle mit unterschiedlicher Privatsphäre zu schulen. Es unterstützt Schulungen mit minimalen Codeänderungen, die auf den Kunden erforderlich sind, hat wenig Auswirkungen auf die Schulungsleistung und ermöglicht es dem Kunden, das zu einem bestimmten Zeitpunkt aufgewendete Datenschutzbudget zu verfolgen.

Zielgruppe

Diese Code -Veröffentlichung richtet sich an zwei Zielgruppen:

1. ML -Praktiker werden dies als eine sanfte Einführung in die Schulung eines Modells mit unterschiedlicher Privatsphäre finden, da es nur minimale Codeänderungen erfordert.
2. Differentiale Datenschutzforscher werden dies leicht zu experimentieren und basteln, sodass sie sich auf das konzentrieren, worauf es ankommt.

Installation

Die neueste Version von Opacus kann über pip installiert werden:

pip install opacus

Oder alternativ über conda :

conda install -c conda-forge opacus

Sie können auch direkt aus der Quelle für die neuesten Funktionen installieren (zusammen mit den Macken und potenziell gelegentlichen Fehler):

git clone https://github.com/pytorch/opacus.git
cd opacus
pip install -e . 

Erste Schritte

Um Ihr Modell mit unterschiedlicher Privatsphäre zu schulen, müssen Sie lediglich eine PrivacyEngine instanziieren und Ihr Modell, Data_loader und Optimierer an die make_private() -Methode des Engine übergeben, um ihre privaten Gegenstücke zu erhalten.

 # define your components as usual
model = Net ()
optimizer = SGD ( model . parameters (), lr = 0.05 )
data_loader = torch . utils . data . DataLoader ( dataset , batch_size = 1024 )

# enter PrivacyEngine
privacy_engine = PrivacyEngine ()
model , optimizer , data_loader = privacy_engine . make_private (
    module = model ,
    optimizer = optimizer ,
    data_loader = data_loader ,
    noise_multiplier = 1.1 ,
    max_grad_norm = 1.0 ,
)
# Now it's business as usual

Das MNIST-Beispiel zeigt einen End-to-End-Lauf mit Opacus. Der Beispiel -Ordner enthält weitere solche Beispiele.

Migration auf 1.0

Opacus 1.0 führte viele Verbesserungen in der Bibliothek ein, aber auch einige Bruchänderungen. Wenn Sie Opacus 0.x verwendet haben und die neueste Version aktualisieren möchten, verwenden Sie diese Migrationshandbuch

Erfahren Sie mehr

Interaktive Tutorials

Wir haben eine Reihe von Ipython-basierten Tutorials als sanfte Einführung in Schulungsmodelle mit Privatsphäre und die Verwendung verschiedener Opacus-Funktionen erstellt.

• Erstellen eines Bildklassifizierers mit unterschiedlicher Privatsphäre
• Schulung eines unterschiedlich privaten LSTM -Modells zur Namensklassifizierung
• Erstellen von Textklassifizierer mit unterschiedlicher Privatsphäre auf Bert
• OPACUS -Handbuch: Einführung in fortschrittliche Funktionen
• OPACUS GUIDER: Absolventen -Probenehmer
• OPACUS -Handbuch: Modul -Validator und Fixierer

Technischer Bericht und Zitat

Der technische Bericht in Opacus, der seine Designprinzipien, mathematischen Grundlagen und Benchmarks vorstellt, finden Sie hier.

Erwägen Sie, den Bericht zu zitieren, wenn Sie Opacus in Ihren Papieren verwenden, wie folgt:

 @article{opacus,
  title={Opacus: {U}ser-Friendly Differential Privacy Library in {PyTorch}},
  author={Ashkan Yousefpour and Igor Shilov and Alexandre Sablayrolles and Davide Testuggine and Karthik Prasad and Mani Malek and John Nguyen and Sayan Ghosh and Akash Bharadwaj and Jessica Zhao and Graham Cormode and Ilya Mironov},
  journal={arXiv preprint arXiv:2109.12298},
  year={2021}
}

Blogposts und Gespräche

Wenn Sie mehr über DP-SGD und verwandte Themen erfahren möchten, lesen Sie unsere Reihe von Blogposts und Gesprächen:

• Differential Privacy Series Teil 1 | DP-SGD-Algorithmus erklärt
• Differential Privacy Series Teil 2 | Effiziente Berechnung der Probenprobe im Opakus
• Pricon 2020 Tutorial: Differenziell privates Modelltraining mit Opacus
• Differentiale Privatsphäre auf Pytorch | Pytorch -Entwicklertag 2020
• Opacus v1.0 Highlights | Pytorch -Entwicklertag 2021

FAQ

In der FAQ -Seite finden Sie Antworten auf einige der am häufigsten gestellten Fragen zu unterschiedlichen Privatsphäre und Opakus.

Beitragen

Sehen Sie sich die beitragende Datei an, um zu helfen. Schauen Sie sich auch die Readme -Dateien im Repo an, um zu erfahren, wie der Code organisiert ist.

Lizenz

Dieser Code wird unter Apache 2.0 veröffentlicht, wie in der Lizenzdatei gefunden.