PFLoRA lib
1.0.0
這是Pflora-lib存儲庫的更新的讀數:
圖1:FedAvg的示例。您可以使用generate_DATA.py創建一個方案,並使用main.py , clientNAME.py和serverNAME.py運行算法。
Pflora-lib是一個用戶友好的算法庫,具有用於聯合學習(FL)研究的集成評估平台,專注於使用低級別適應性(LORA)的個性化和效率。
洛拉 - 聯邦過程的美人魚圖。該圖將包含更多步驟和組件,以更好地表示完整的過程:
圖TD
子圖“客戶1”
A1 [本地數據集] - > B1 [火車]
B1-> C1 [Lora適配器]
C1-> D1 [評估]
D1-> E1 [發送更新]
結尾
子圖“客戶2”
A2 [本地數據集] - > B2 [火車]
B2-> C2 [Lora適配器]
C2-> D2 [評估]
D2-> E2 [發送更新]
結尾
子圖“客戶n”
一個[本地數據集] - > bn [火車]
BN-> CN [Lora適配器]
CN-> DN [評估]
DN-> en [發送更新]
結尾
子圖“全局服務器”
F [接收更新]
G [總勞拉適配器]
h [更新全局模型]
我[分發更新的模型]
結尾
E1-> f
E2-> f
en-> f
f-> g
G-> h
H-> i
我 - > |新圓| B1
我 - > |新圓| B2
我 - > |新圓| BN
子圖“系統組件”
j [generate_mnist.py]
k [clientlora.py]
l [serverlora.py]
m [main.py]
結尾
J-> |生成數據集| A1
J-> |生成數據集| A2
J-> |生成數據集|一個
K-> |定義客戶行為| B1
K-> |定義客戶行為| B2
K-> |定義客戶行為| BN
l-> |定義服務器行為| f
l-> |定義服務器行為| g
l-> |定義服務器行為| h
l-> |定義服務器行為|我
m-> |配置超參數| j
m-> |配置超參數| k
m-> |配置超參數| l
此詳細的美人魚圖表示:
多個客戶(1、2和N)及其本地數據集和流程:
全球服務器的流程:
系統組件:
generate_MNIST.py用於數據集生成clientlora.py定義客戶行為serverlora.py用於定義服務器行為main.py用於配置超參數和編排過程這些組件之間的數據流和控制
聯合學習過程的循環性質,更新的模型被發送給客戶進行新的培訓
該圖提供了洛拉 - 聯邦過程的更全面的看法,顯示了高級聯合學習週期和與LORA適應相關的特定組成部分。
conda env create -f env_cuda_latest.yamlgit clone https://github.com/chenxingqiang/PFLoRA-lib.git cd ./system
python main.py -data MNIST -m cnn -algo FedAvg -gr 2000 -did 0
-cdr-tsr-ssr-tth 輕鬆添加新:
如果您在研究中使用pflora-lib,請引用相關論文:
@inproceedings{zhang2023fedala,
title={Fedala: Adaptive local aggregation for personalized federated learning},
author={Zhang, Jianqing and Hua, Yang and Wang, Hao and Song, Tao and Xue, Zhengui and Ma, Ruhui and Guan, Haibing},
booktitle={Proceedings of the AAAI Conference on Artificial Intelligence},
volume={37},
number={9},
pages={11237--11244},
year={2023}
}
@inproceedings{Zhang2023fedcp,
author = {Zhang, Jianqing and Hua, Yang and Wang, Hao and Song, Tao and Xue, Zhengui and Ma, Ruhui and Guan, Haibing},
title = {FedCP: Separating Feature Information for Personalized Federated Learning via Conditional Policy},
year = {2023},
booktitle = {Proceedings of the 29th ACM SIGKDD Conference on Knowledge Discovery and Data Mining}
}
@inproceedings{zhang2023gpfl,
title={GPFL: Simultaneously Learning Global and Personalized Feature Information for Personalized Federated Learning},
author={Zhang, Jianqing and Hua, Yang and Wang, Hao and Song, Tao and Xue, Zhengui and Ma, Ruhui and Cao, Jian and Guan, Haibing},
booktitle={Proceedings of the IEEE/CVF International Conference on Computer Vision},
pages={5041--5051},
year={2023}
}
@inproceedings{
zhang2023eliminating,
title={Eliminating Domain Bias for Federated Learning in Representation Space},
author={Jianqing Zhang and Yang Hua and Jian Cao and Hao Wang and Tao Song and Zhengui XUE and Ruhui Ma and Haibing Guan},
booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
year={2023},
url={https://openreview.net/forum?id=nO5i1XdUS0}
}
有關更多信息和詳細的用法說明,請參閱完整文檔。