[논문 리뷰] PAFedFV: Personalized and Asynchronous Federated Learning for Finger Vein Recognition

Hengyu Mu, Jian Guo외 2명|arXiv (Cornell University)|2024. 04. 20.

Oral and gingival health researchHealth Professions인용 수 3

한 줄 요약

이 논문은 데이터 이질성과 클라이언트의 유휴 시간 문제를 해결하기 위해 개인화 및 비동기적 페더레이티드 러닝 프레임워크인 PAFedFV를 제안한다. 개인화 모델 집합과 비동기 학습을 통합함으로써, PAFedFV는 여섯 종류의 손가락 혈관 데이터셋에서 최신 기술 수준의 정확도와 강건성을 달성하며, FedAvg, FedAsync, FedProx, FedFV보다 최대 6.32%의 EER 감소와 18.82%의 TAR 향상으로 슈퍼리어한 성능을 보인다.

ABSTRACT

With the increasing emphasis on user privacy protection, biometric recognition based on federated learning have become the latest research hotspot. However, traditional federated learning methods cannot be directly applied to finger vein recognition, due to heterogeneity of data and open-set verification. Therefore, only a few application cases have been proposed. And these methods still have two drawbacks. (1) Uniform model results in poor performance in some clients, as the finger vein data is highly heterogeneous and non-Independently Identically Distributed (non-IID). (2) On individual client, a large amount of time is underutilized, such as the time to wait for returning model from server. To address those problems, this paper proposes a Personalized and Asynchronous Federated Learning for Finger Vein Recognition (PAFedFV) framework. PAFedFV designs personalized model aggregation method to solve the heterogeneity among non-IID data. Meanwhile, it employs an asynchronized training module for clients to utilize their waiting time. Finally, extensive experiments on six finger vein datasets are conducted. Base on these experiment results, the impact of non-IID finger vein data on performance of federated learning are analyzed, and the superiority of PAFedFV in accuracy and robustness are demonstrated.

연구 동기 및 목표

• 페더레이티드 러닝 환경에서 클라이언트 간 비독립 동일 분포(Non-IID) 및 이질적인 손가락 혈관 데이터 문제를 해결한다.
• 클라이언트-서버 통신 중 유휴 시간을 줄이기 위해 로컬 및 페더레이티드 채널에서 비동기 학습을 가능하게 한다.
• 제한되거나 저품질의 데이터를 가진 클라이언트의 모델 성능을 개인화된 모델 집합을 통해 향상시킨다.
• 개방 집합 손가락 혈관 인식 환경에서 개인정보 보호 기반 페더레이티드 러닝에서 강건성과 정확도 향상을 입증한다.
• 비독립 동일 분포 데이터가 페더레이티드 손가락 혈관 러닝에 미치는 영향 패턴을 규명하고 향후 연구 참고 자료로 제공한다.

제안 방법

• 비독립 동일 분포 데이터 분포를 더 잘 다루기 위해 표준 FedAvg 평균화 방식을 대체하는 개인화 모델 집합 전략을 설계한다.
• 클라이언트가 기다리는 동안 로컬 채널과 페더레이티드 채널에서 모두 로컬 학습을 수행할 수 있도록 허용하는 비동기 학습 모듈을 도입한다. 이는 계산 자원 활용도를 극대화한다.
• 특징의 분류 능력을 향상시키기 위해 교차 엔트로피 손실과 트리플릿 손실을 조합한 하이브리드 손실 함수 $L_{total}$을 구현한다.
• 이중 채널 로컬 학습 설정을 활용한다: 하나는 개인화를 위한(로컬 채널), 다른 하나는 글로벌 모델 정렬을 위한(페더레이티드 채널).
• 기본 프레임워크로 FedAvg를 사용하지만, 개인화 집합 및 비동기 학습 구성 요소를 추가로 통합하여 개선한다.
• 클라이언트별 헤드 레이어와 공유 백본 네트워크를 활용하여 모델 아키텍처에서 개인화와 지식 공유의 균형을 이룬다.

실험 결과

연구 질문

• RQ1 비독립 동일 분포(Non-IID) 손가락 혈관 데이터셋에서의 데이터 이질성이 생체 인식 환경에서 표준 페더레이티드 러닝의 성능에 어떤 영향을 미치는가?
• RQ2 개인화된 모델 집합 전략이 제한되거나 왜곡된 손가락 혈관 데이터를 가진 클라이언트의 인식 정확도 향상에 얼마나 기여하는가?
• RQ3 비동기 학습이 모델 수렴 성능을 저하시키지 않으면서도 유휴 시간을 효과적으로 줄이고 학습 효율성을 향상시킬 수 있는가?
• RQ4 다양한 손가락 혈관 데이터셋에서 PAFedFV가 FedAvg, FedAsync, FedProx, FedFV와 같은 최신 기술 수준의 페더레이티드 러닝 방법과 비교해 EER 및 TAR(@FAR=0.01) 측면에서 어떤 성능을 보이는가?
• RQ5 비독립 동일 분포 데이터의 영향 패턴은 무엇이며, 이를 향후 모델 설계에 어떻게 활용할 수 있는가?

주요 결과

• PAFedFV는 여섯 종류의 손가락 혈관 데이터셋에서 기존 방법 대비 최대 6.32%의 EER 감소와 최대 18.82%의 TAR(@FAR=0.01) 향상을 기록한다.
• VERA 데이터셋에서 비동기 학습 모듈을 추가했을 때, PAFedFV는 EER을 13.64% 감소시키고 TAR(@FAR=0.01)를 31.82% 향상시켰다.
• UTFVP 데이터셋에서 $L_{total}$ 손실 함수는 표준 교차 엔트로피 대비 EER을 5.1% 감소시키고 TAR(@FAR=0.01)를 15.51% 향상시켰다.
• 개인화 집합 모듈만으로도 클라이언트 평균 EER이 0.62 감소하고 TAR(@FAR=0.01)가 평균 1.66 증가했다.
• USM, HKPU, NUPT, UTFVP에서 PAFedFV는 중심화된 학습보다 우수했으며, USM에서 EER은 1.37% 감소하고 TAR(@FAR=0.01)는 3.92% 향상되었다.
• 특징 표현의 시각화 결과, PAFedFV는 FedFV, FedAvg, FedProx보다 더 구분력 있는 임bedding을 학습하는 것으로 확인되었으며, 특히 소규모 또는 비독립 동일 분포 데이터를 가진 클라이언트에서 두드러진 성능 향상을 보였다.