[논문 리뷰] Disentangled Federated Learning for Tackling Attributes Skew via Invariant Aggregation and Diversity Transferring

Zhengquan Luo, Yunlong Wang외 3명|arXiv (Cornell University)|2022. 06. 14.

Privacy-Preserving Technologies in Data인용 수 9

한 줄 요약

이 논문은 도메인별(비인과적) 및 불변(인과적) 속성을 두 가지 브랜치로 분리하는 새로운 FL 프레임워크인 분리형 페더레이티드 러닝(DFL)을 제안한다. 불변 집계를 통해 안정적인 글로벌 모델 업데이트를 달성하고, 다양성 전달을 통해 작업 관련 로컬 표현을 유지한다. DFL은 기존 최고 성능(SOTA) FL 방법에 비해 더 빠른 수렴 속도, 높은 정확도, 그리고 속성 편향 상황에서도 더 뛰어난 내구성을 보인다.

ABSTRACT

Attributes skew hinders the current federated learning (FL) frameworks from consistent optimization directions among the clients, which inevitably leads to performance reduction and unstable convergence. The core problems lie in that: 1) Domain-specific attributes, which are non-causal and only locally valid, are indeliberately mixed into global aggregation. 2) The one-stage optimizations of entangled attributes cannot simultaneously satisfy two conflicting objectives, i.e., generalization and personalization. To cope with these, we proposed disentangled federated learning (DFL) to disentangle the domain-specific and cross-invariant attributes into two complementary branches, which are trained by the proposed alternating local-global optimization independently. Importantly, convergence analysis proves that the FL system can be stably converged even if incomplete client models participate in the global aggregation, which greatly expands the application scope of FL. Extensive experiments verify that DFL facilitates FL with higher performance, better interpretability, and faster convergence rate, compared with SOTA FL methods on both manually synthesized and realistic attributes skew datasets.

연구 동기 및 목표

• 비인과적이고 도메인에 특화된 속성이 우연히 집계되어 발생하는 성능 저하와 불안정한 수렴 문제를 해결한다.
• 불변 속성과 특정 속성이 뒤섞인 단일 브랜치 클라이언트 모델의 한계를 극복하여 상충되는 최적화 방향을 방지한다.
• 부분적인 클라이언트 모델 참여 상황에서도 안정적인 글로벌 수렴을 보장함으로써 FL의 실용적 적용 범위를 넓힌다.
• 상호정보량 제약 조건을 통해 인과적(불변) 속성과 비인과적(특정) 속성을 분리함으로써 모델 일반화 및 맞춤화 성능을 향상시킨다.
• 이중 브랜치 최적화 프레임워크를 통해 글로벌 모델 안정성에 영향을 주지 않으면서도 로컬 표현의 다양성과 의사결정의 내구성을 향상시킨다.

제안 방법

• 클라이언트 표현을 두 가지 상보적인 브랜치로 분리: 글로벌 집계를 위한 도메인 불변 브랜치와 로컬 최적화를 위한 도메인 특정 브랜치.
• 로컬 불변 특징과 글로벌 모델 간의 상호정보량(MI) 최대화를 적용하여 최적화 방향을 일치시키고 불변성을 강제한다.
• 불변 속성과 특정 속성을 로컬에서 분리하기 위해 상호정보량 최소화를 사용하여 도메인 특화된 특징이 글로벌 집계에 오염되지 않도록 보장한다.
• 오직 로컬 불변 브랜치만을 사용하여 불변 집계를 구현함으로써 비인과적 속성에 기인한 부정적 전이를 감소시킨다.
• 로컬 불변 브랜치와 전달된 특정 특징 추출기의 조합을 통해 다양성 전달을 구현함으로써 로컬 표현을 풍부화하고 일반화 성능을 향상시킨다.
• 교차 최적화: 두 브랜치를 순차적으로 훈련시어 상충되는 목표를 방지하고 안정적인 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 페더레이티드 러닝에서 불변 속성과 도메인 특정 속성을 분리함으로써 속성 편향으로 인한 부정적 전이를 줄일 수 있는가?
• RQ2 오직 불변 브랜치만을 사용한 불변 집계는 기존 표준 FL 대비 더 안정적이고 수렴성이 높은 글로벌 모델 업데이트를 이끌 수 있는가?
• RQ3 다양성 전달이 글로벌 수렴 성능을 떨어뜨리거나 통신 비용을 증가시키지 않으면서도 로컬 표현 품질을 향상시킬 수 있는가?
• RQ4 클라이언트 참여도와 통신 라운드 수가 변할 경우, 제안된 방법은 SOTA FL 방법에 비해 어떻게 성능을 발휘하는가?
• RQ5 분리된 프레임워크는 실제 속성 편향 데이터셋 상황에서 모델의 해석 가능성과 내구성에 어느 정도 기여하는가?

주요 결과

• DFL은 기존 SOTA FL 방법에 비해 더 낮고 변동성이 적은 교차 엔트로피 손실 곡선을 보이며 더 빠르고 안정적인 수렴을 달성한다.
• Office-Caltech10 및 DomainNet에서 DFL은 기준 모델 대비 평균 정확도를 약 3% 향상시켜 현실적인 속성 편향 상황에서도 뚜렷한 성능 향상을 입증한다.
• 절단 실험을 통해 불변 집계와 다양성 전달이 상호 보완적임을 확인: 둘 중 하나를 제거하면 성능 저하가 발생하며, 단일 단계 최적화에서는 수렴 불안정성이 발생한다.
• 이론적 수렴 분석을 통해 DFL은 글로벌 집계에 참여하는 클라이언트 모델이 불완전하더라도 높은 성능을 유지함을 입증한다.
• Grad-CAM 시각화 결과, 불변 브랜치는 원인적이고 개체 수준의 특징(예: 새의 형태)에 집중하는 반면, 특정 브랜치는 도메인에 의존적인 속성(예: 하늘, 나무)에 주목함을 확인했다.
• 로컬 특정 훈련 에포크 수를 최적화하면(예: 10 에포크), 정확도를 희생시키지 않으면서도 더 적은 통신 라운드로도 수렴이 가능함을 나타내어 통신 비용을 절감할 수 있다.