PFLoRA lib
1.0.0
这是Pflora-lib存储库的更新的读数:
图1:FedAvg的示例。您可以使用generate_DATA.py创建一个方案,并使用main.py , clientNAME.py和serverNAME.py运行算法。
Pflora-lib是一个用户友好的算法库,具有用于联合学习(FL)研究的集成评估平台,专注于使用低级别适应性(LORA)的个性化和效率。
洛拉 - 联邦过程的美人鱼图。该图将包含更多步骤和组件,以更好地表示完整的过程:
图TD
子图“客户1”
A1 [本地数据集] - > B1 [火车]
B1-> C1 [Lora适配器]
C1-> D1 [评估]
D1-> E1 [发送更新]
结尾
子图“客户2”
A2 [本地数据集] - > B2 [火车]
B2-> C2 [Lora适配器]
C2-> D2 [评估]
D2-> E2 [发送更新]
结尾
子图“客户n”
一个[本地数据集] - > bn [火车]
BN-> CN [Lora适配器]
CN-> DN [评估]
DN-> en [发送更新]
结尾
子图“全局服务器”
F [接收更新]
G [总劳拉适配器]
h [更新全局模型]
我[分发更新的模型]
结尾
E1-> f
E2-> f
en-> f
f-> g
G-> h
H-> i
我 - > |新圆| B1
我 - > |新圆| B2
我 - > |新圆| BN
子图“系统组件”
j [generate_mnist.py]
k [clientlora.py]
l [serverlora.py]
m [main.py]
结尾
J-> |生成数据集| A1
J-> |生成数据集| A2
J-> |生成数据集|一个
K-> |定义客户行为| B1
K-> |定义客户行为| B2
K-> |定义客户行为| BN
l-> |定义服务器行为| f
l-> |定义服务器行为| g
l-> |定义服务器行为| h
l-> |定义服务器行为|我
m-> |配置超参数| j
m-> |配置超参数| k
m-> |配置超参数| l
此详细的美人鱼图表示:
多个客户(1、2和N)及其本地数据集和流程:
全球服务器的流程:
系统组件:
generate_MNIST.py用于数据集生成clientlora.py定义客户行为serverlora.py用于定义服务器行为main.py用于配置超参数和编排过程这些组件之间的数据流和控制
联合学习过程的循环性质,更新的模型被发送给客户进行新的培训
该图提供了洛拉 - 联邦过程的更全面的看法,显示了高级联合学习周期和与LORA适应相关的特定组成部分。
conda env create -f env_cuda_latest.yamlgit clone https://github.com/chenxingqiang/PFLoRA-lib.git cd ./system
python main.py -data MNIST -m cnn -algo FedAvg -gr 2000 -did 0
-cdr-tsr-ssr-tth 轻松添加新:
如果您在研究中使用pflora-lib,请引用相关论文:
@inproceedings{zhang2023fedala,
title={Fedala: Adaptive local aggregation for personalized federated learning},
author={Zhang, Jianqing and Hua, Yang and Wang, Hao and Song, Tao and Xue, Zhengui and Ma, Ruhui and Guan, Haibing},
booktitle={Proceedings of the AAAI Conference on Artificial Intelligence},
volume={37},
number={9},
pages={11237--11244},
year={2023}
}
@inproceedings{Zhang2023fedcp,
author = {Zhang, Jianqing and Hua, Yang and Wang, Hao and Song, Tao and Xue, Zhengui and Ma, Ruhui and Guan, Haibing},
title = {FedCP: Separating Feature Information for Personalized Federated Learning via Conditional Policy},
year = {2023},
booktitle = {Proceedings of the 29th ACM SIGKDD Conference on Knowledge Discovery and Data Mining}
}
@inproceedings{zhang2023gpfl,
title={GPFL: Simultaneously Learning Global and Personalized Feature Information for Personalized Federated Learning},
author={Zhang, Jianqing and Hua, Yang and Wang, Hao and Song, Tao and Xue, Zhengui and Ma, Ruhui and Cao, Jian and Guan, Haibing},
booktitle={Proceedings of the IEEE/CVF International Conference on Computer Vision},
pages={5041--5051},
year={2023}
}
@inproceedings{
zhang2023eliminating,
title={Eliminating Domain Bias for Federated Learning in Representation Space},
author={Jianqing Zhang and Yang Hua and Jian Cao and Hao Wang and Tao Song and Zhengui XUE and Ruhui Ma and Haibing Guan},
booktitle={Thirty-seventh Conference on Neural Information Processing Systems},
year={2023},
url={https://openreview.net/forum?id=nO5i1XdUS0}
}
有关更多信息和详细的用法说明,请参阅完整文档。