[논문 리뷰] Re-thinking Federated Active Learning based on Inter-class Diversity

SangMook Kim, Sangmin Bae외 2명|arXiv (Cornell University)|2023. 03. 22.

Data Quality and ManagementDecision Sciences인용 수 3

한 줄 요약

이 논문은 이질적인 FL 환경에서의 클래스 간 불균형 문제를 해결하기 위해 로컬 전용 및 글로벌 쿼리 선택기 모두를 통합한 새로운 피어드레이티드 액티브 러닝(FAL) 샘플링 전략인 LoGo를 제안한다. 두 단계의 클러스터 기반 선택을 통해 먼저 로컬 전용 모델을 통해 로컬 다양성을 확보하고, 그 다음 글로벌 모델 인식을 통해 쿼리를 정밀 조정함으로써, 다양한 데이터 분포에서 뛰어난 성능을 달성하며, 38개의 실험 설정에서 6개의 베이스라인을 일관되게 능가한다.

ABSTRACT

Although federated learning has made awe-inspiring advances, most studies have assumed that the client's data are fully labeled. However, in a real-world scenario, every client may have a significant amount of unlabeled instances. Among the various approaches to utilizing unlabeled data, a federated active learning framework has emerged as a promising solution. In the decentralized setting, there are two types of available query selector models, namely 'global' and 'local-only' models, but little literature discusses their performance dominance and its causes. In this work, we first demonstrate that the superiority of two selector models depends on the global and local inter-class diversity. Furthermore, we observe that the global and local-only models are the keys to resolving the imbalance of each side. Based on our findings, we propose LoGo, a FAL sampling strategy robust to varying local heterogeneity levels and global imbalance ratio, that integrates both models by two steps of active selection scheme. LoGo consistently outperforms six active learning strategies in the total number of 38 experimental settings.

연구 동기 및 목표

• 로컬 클라이언트 데이터와 글로벌 모델 데이터 양측에 의해 심각한 클래스 간 편향이 발생할 수 있는 피어드레이티드 액티브 러닝(FAL)에서의 클래스 불균형 문제를 해결한다.
• 로컬 데이터 이질성과 글로벌 클래스 불균형 수준이 다양할 때, 글로벌 및 로컬 전용 모델의 두 가지 쿼리 선택기 유형의 성능 우월성에 대해 조사한다.
• 사전 지식 없이도 알려지지 않은 또는 변동하는 수준의 로컬 및 글로벌 데이터 불균형에 적응할 수 있는 강건한 FAL 샘플링 전략을 설계한다.
• 분산 학습 환경에서 쿼리 선택 효율성과 모델 일반화 능력을 향상시키기 위해 로컬 및 글로벌 모델의 통찰을 모두 활용하는 방법을 개발한다.

제안 방법

• 두 단계의 클러스터 기반 액티브 러닝 프레임워크 제안: 매크로 단계에서는 로컬 전용 모델에서 유도된 환영 경량 공간에 대해 k-means 클러스터링을 수행하여 로컬 클래스 간 다양성을 확보한다.
• 마이크로 단계에서는 한 번의 EM 반복 수행: E단계는 매크로 단계에서 유도된 클러스터에 인스턴스를 할당하고, M단계는 글로벌 모델을 사용하여 각 클러스터에서 샘플링하여 글로벌 소수 클래스를 우선시한다.
• 로컬 및 글로벌 모델 지식을 암묵적으로 통합: 로컬 전용 모델은 클라이언트별 데이터 분포를 반영하고, 글로벌 모델은 글로벌 데이터 불균형을 반영한다.
• 클러스터 단위 샘플링 전략을 사용하여 로컬 다양성을 보존하면서도, 글로벌 모델을 통해 글로벌 소수 클래스 인식을 통합한다.
• 로컬 이질성의 지표로 딜레트 분포 농도 매개변수(α)와 글로벌 불균형 비율(ρ)을 사용하여 선택기 우월성 분석.
• α 또는 ρ에 대한 사전 지식이 필요 없는 데이터 무관 전략을 설계하여, 다양한 실세계 FL 시나리오에서의 강건성을 확보한다.

실험 결과

연구 질문

• RQ1 로컬 이질성(α)과 글로벌 불균형 비율(ρ)에 따라 FAL에서 글로벌 쿼리 선택기와 로컬 전용 쿼리 선택기의 성능은 어떻게 달라지는가?
• RQ2 다양한 데이터 분포 환경에서 글로벌 및 로컬 전용 쿼리 선택기의 장점을 효과적으로 통합할 수 있는 통합된 액티브 러닝 전략을 설계할 수 있는가?
• RQ3 로컬 및 글로벌 모델 통찰을 통합함으로써, 피어드레이티드 액티브 러닝에서 쿼리 선택 품질과 후속 모델 정확도는 어느 정도 향상되는가?
• RQ4 단순한 앙상블 방법(글로벌 및 로컬 모델 예측의 평균화 또는 순위 기반 가중 평균)보다 두 단계의 클러스터 기반 샘플링 전략이 더 우수한가?
• RQ5 LoGo 방법은 테스트 정확도와 수렴 속도 측면에서 다양한 데이터셋과 다양한 레이블링 예산에서 얼마나 강건한가?

주요 결과

• 글로벌 선택기와 로컬 전용 선택기의 성능 우월성은 고정되어 있지 않으며, 로컬 이질성(α)과 글로벌 불균형 비율(ρ) 간의 상호작용에 따라 달라진다.
• 로컬 이질성이 높을 경우(낮은 α), 로컬 전용 모델이 글로벌 모델을 능가한다. 이는 각 클라이언트에서 소수 클래스에 대한 정보성 인스턴스를 더 잘 탐지하기 때문이다.
• 글로벌 불균형이 높을 경우(높은 ρ), 글로벌 모델이 우세하다. 이는 더 넓은 데이터 분포를 반영하고, 부족한 글로벌 클래스를 우선시할 수 있기 때문이다.
• LoGo는 38개의 실험 설정에서 일관되게 가장 높은 테스트 정확도를 기록하며, CIFAR-10, SVHN, PathMNIST, DermaMNIST에서 Entropy, BADGE, GCNAL, ALFA-Mix를 포함한 6개의 베이스라인을 능가한다.
• 표 3(α=0.1)에서 LoGo는 80% 레이블링 예산 시 CIFAR-10에서 86.02%의 정확도를 기록했으며, 이는 다음으로 높은 성능을 낸 베이스라인(GCNAL, 85.10%)을 초월한다. 동일하게 SVHN에서도 86.02%의 정확도를 기록해 모든 다른 방법을 능가한다.
• 표 4에서 LoGo는 간단한 앙상블 방법(로짓 평균화, 순위 기반 가중 평균, 피팅 조정)을 크게 능가하며, 단순한 모델 융합이 LoGo의 구조적 두 단계 클러스터 기반 통합에 비해 부족함을 보임을 입증한다.