[论文解读] PAFedFV: Personalized and Asynchronous Federated Learning for Finger Vein Recognition

Hengyu Mu, Jian Guo+2 more|arXiv (Cornell University)|Apr 20, 2024

Oral and gingival health researchHealth Professions被引用 3

一句话总结

该论文提出了一种用于手指静脉识别的个性化异步联邦学习框架 PAFedFV，解决了数据异质性和客户端空闲时间的问题。通过整合个性化模型聚合与异步训练，PAFedFV 在六个手指静脉数据集上实现了最先进的准确率与鲁棒性，相较于 FedAvg、FedAsync、FedProx 和 FedFV，EER 最低降低 6.32%，TAR 提升最高达 18.82%。

ABSTRACT

With the increasing emphasis on user privacy protection, biometric recognition based on federated learning have become the latest research hotspot. However, traditional federated learning methods cannot be directly applied to finger vein recognition, due to heterogeneity of data and open-set verification. Therefore, only a few application cases have been proposed. And these methods still have two drawbacks. (1) Uniform model results in poor performance in some clients, as the finger vein data is highly heterogeneous and non-Independently Identically Distributed (non-IID). (2) On individual client, a large amount of time is underutilized, such as the time to wait for returning model from server. To address those problems, this paper proposes a Personalized and Asynchronous Federated Learning for Finger Vein Recognition (PAFedFV) framework. PAFedFV designs personalized model aggregation method to solve the heterogeneity among non-IID data. Meanwhile, it employs an asynchronized training module for clients to utilize their waiting time. Finally, extensive experiments on six finger vein datasets are conducted. Base on these experiment results, the impact of non-IID finger vein data on performance of federated learning are analyzed, and the superiority of PAFedFV in accuracy and robustness are demonstrated.

研究动机与目标

• 解决联邦学习设置中客户端间非独立同分布（non-IID）及异质性手指静脉数据的挑战。
• 通过在本地和联邦通道上启用异步训练，减少客户端-服务器通信期间的空闲时间。
• 通过个性化模型聚合，提升数据量有限或质量较低客户端的模型性能。
• 在隐私保护的联邦学习下，展示开放集手指静脉识别中模型的鲁棒性与准确率提升。
• 识别并表征非 IID 数据对联邦手指静脉学习影响的模式，为未来研究提供参考。

提出的方法

• 设计一种个性化模型聚合策略，替代标准 FedAvg 平均，以更好地处理客户端间非 IID 数据分布。
• 引入异步训练模块，使客户端在等待期间可同时在本地通道和联邦通道上进行本地训练，最大化计算资源利用率。
• 实现一种混合损失函数 $L_{total}$，结合交叉熵损失与三元组损失，以增强手指静脉嵌入的特征判别能力。
• 采用双通道本地训练设置：一个用于个性化（本地通道），一个用于全局模型对齐（联邦通道）。
• 以 FedAvg 为基础框架，但通过引入个性化聚合与异步训练组件进行增强。
• 采用客户端特定的分类头层与共享主干网络，以在模型架构中平衡个性化与知识共享。

实验结果

研究问题

• RQ1 非 IID 手指静脉数据集中的数据异质性如何影响标准联邦学习在生物特征识别中的性能？
• RQ2 个性化模型聚合在数据量有限或分布偏移的手指静脉数据客户端上，能在多大程度上提升识别准确率？
• RQ3 异步训练是否能有效减少空闲时间并提升训练效率，同时不损害模型收敛性？
• RQ4 在多种手指静脉数据集上，PAFedFV 与 FedAvg、FedAsync、FedProx 和 FedFV 等先进联邦学习方法相比，在 EER 和 TAR(@FAR=0.01) 指标上的表现如何？
• RQ5 非 IID 数据影响在联邦手指静脉学习中的可识别模式是什么？这些模式如何为未来模型设计提供指导？

主要发现

• 在六个手指静脉数据集上，与现有方法相比，PAFedFV 最低降低 6.32% 的 EER，最高提升 18.82% 的 TAR(@FAR=0.01)。
• 在 VERA 数据集上，当引入异步训练模块后，PAFedFV 实现了 EER 降低 13.64% 和 TAR(@FAR=0.01) 提升 31.82%。
• 与标准交叉熵损失相比，$L_{total}$ 损失函数在 UTFVP 数据集上使 EER 降低 5.1%，TAR(@FAR=0.01) 提升 15.51%。
• 仅使用个性化聚合模块，即可在客户端平均降低 0.62 的 EER，并将平均 TAR(@FAR=0.01) 提升 1.66。
• 在 USM、HKPU、NUPT 和 UTFVP 数据集上，PAFedFV 的表现优于集中式训练，其中在 USM 上实现 EER 降低 1.37% 和 TAR(@FAR=0.01) 提升 3.92%。
• 特征表示的可视化结果表明，与 FedFV、FedAvg 和 FedProx 相比，PAFedFV 学习到更具判别性的嵌入表示，尤其在小样本或非 IID 数据的客户端上表现更优。