[논문 리뷰] IP-FL: Incentivized and Personalized Federated Learning

Ahmad Khan, Xinran Wang외 8명|arXiv (Cornell University)|2023. 04. 15.

Privacy-Preserving Technologies in Data인용 수 5

한 줄 요약

PI-FL은 한 번의 스텝으로 모델 개인화를 가능하게 하고, 토큰 기반의 인센티브 메커니즘을 통해 모델 품질을 향상시키면서도 클라이언트의 자율성과 프라이버시를 유지하는 새로운 피어드 학습 프레임워크를 제안한다. 데이터 분포에 따라 선호하는 레벨에 입찰할 수 있도록 하고, 기여도에 따라 셰플리 값 기반의 유틸리티로 보상하는 방식을 통해, 특히 높은 데이터 이방성 조건에서도 최신 기술 수준의 개인화 모델 정확도를 달성한다.

ABSTRACT

Existing incentive solutions for traditional Federated Learning (FL) focus on individual contributions to a single global objective, neglecting the nuances of clustered personalization with multiple cluster-level models and the non-monetary incentives such as personalized model appeal for clients. In this paper, we first propose to treat incentivization and personalization as interrelated challenges and solve them with an incentive mechanism that fosters personalized learning. Additionally, current methods depend on an aggregator for client clustering, which is limited by a lack of access to clients' confidential information due to privacy constraints, leading to inaccurate clustering. To overcome this, we propose direct client involvement, allowing clients to indicate their cluster membership preferences based on data distribution and incentive-driven feedback. Our approach enhances the personalized model appeal for self-aware clients with high-quality data leading to their active and consistent participation. Our evaluation demonstrates significant improvements in test accuracy (8-45%), personalized model appeal (3-38%), and participation rates (31-100%) over existing FL models, including those addressing data heterogeneity and personalization.

연구 동기 및 목표

• 클라이언트의 데이터 분포와 목표에 따라 모델 개인화를 가능하게 하여 피어드 학습에서의 데이터 이방성 문제를 해결한다.
• 집계자에게 개인 정보를 노출하지 않고도 클라이언트가 자신이 속할 수 있는 레벨을 스스로 결정할 수 있도록 함으로써 클라이언트의 자율성과 프라이버시를 유지한다.
• 기존 FL 시스템에서 클라이언트의 참여 유인 부족 문제를 해결하기 위해, 기여도에 비례하는 품질 기반의 토큰 기반 보상 메커니즘을 도입한다.
• 인센티브와 개인화를 하나의 프레임워크로 통합하여, 보상이 직접적으로 고품질의 참여와 모델 개인화를 유도하도록 한다.
• 모든 클라이언트가 최소한의 계산 비용으로도 개인화 모델을 한 번의 스텝으로 생성할 수 있도록 하며, 기밀 데이터나 새로 도착한 데이터에 대해서도 효율적으로 작동하도록 한다.

제안 방법

• 클라이언트를 데이터 분포 유사성에 따라 그룹화하여 클러스터 중심으로 레벨 수준의 모델을 훈련하고, 각 클라이언트는 로컬 데이터 기반으로 레벨의 중요도 가중치를 추정한다.
• 클라이언트가 자신의 데이터 분포와 개인 목표에 따라 특정 레벨에 입찰할 수 있도록 허용하여 클라이언트 자율성을 유지한다.
• 집계자 측에서 클라이언트의 입찰와 이력 성능을 기반으로 레벨을 구성하는 스케줄러를 운영하여 클라이언트의 데이터 분포와의 일치를 보장한다.
• 레벨 수준의 모델을 사용하여 재훈련 비용을 최소화하면서도 한 번의 스텝으로 각 클라이언트의 개인화 모델을 생성하는 1-샷 개인화를 적용한다.
• 클라이언트가 기여자(보상 토큰 수령)이자 소비자(모델 접근을 위해 토큰 소비)로 기능하도록 토큰 기반의 인센티브 체계를 도입하고, 마진 유틸리티를 계산하기 위해 셰플리 값을 사용하여 기여도를 보상한다.
• 각 클라이언트가 레벨 수준 모델에 기여한 정도에 따라 레벨 기반의 인센티브를 계산하여, 데이터 분포와 일치하는 레벨에 참여함으로써 수익을 극대화할 수 있도록 유도한다.

실험 결과

연구 질문

• RQ1 비IIDs 데이터 조건에서 효과적인 모델 개인화를 가능하게 하면서도 클라이언트의 자율성을 어떻게 유지할 수 있는가?
• RQ2 토큰 기반의 인센티브 메커니즘이 비IIDs 데이터 조건에서 참여도와 모델 품질을 어느 정도 향상시키는가?
• RQ3 레벨 수준 모델을 사용한 1-샷 개인화가 기존 최신 기술 수준의 개인화 FL 방법에 비해 정확도와 효율성 측면에서 뛰어나게 성능을 냈는가?
• RQ4 개인화와 인센티브의 통합이 레벨 수준 모델과 클라이언트별 특화 모델의 품질에 어떤 영향을 미치는가?
• RQ5 인센티브의 일치가 클라이언트 행동, 예를 들어 레벨 선택과 기여 품질에 어떤 영향을 미치는가?

주요 결과

• 10:90 데이터 분할 조건에서 c1 레벨 수준 모델의 테스트 정확도는 PI-FL이 67.4%를 기록했고, 이는 동일한 분포에서 FedSoft가 기록한 49.62%보다 뚜렷이 높은 성능이다.
• CIFAR-10에서의 분석 실험 결과, 인센티브 기반 PI-FL(I)은 10:90 분할 조건에서 개인화 모델 정확도 64.54%를 달성했고, 인센티브 비활성화 시 PI-FL(NI)는 57.42%에 그쳤다.
• 개인화 모델 정확도의 누적분포함수(CDF) 분석 결과, PI-FL(I)은 30:70를 제외한 모든 분할 조건에서 비인센티브 버전을 일관되게 능가한다. (30:70는 데이터 이방성이 낮기 때문이다.)
• PI-FL(I)은 모든 분할 조건에서 자신의 목표 분포를 지배하며, 레벨 수준 모델은 자신의 훈련 데이터와 일치하는 분포에서 최고 정확도를 기록한다 (예: 선형 분할 조건에서 θ₀에서 c0는 61.66%의 정확도 기록).
• 인센티브 메커니즘이 클라이언트 행동을 최적의 레벨 참여 방향으로 유도함으로써 직접적으로 모델 품질을 향상시키는 것으로 확인되었으며, 이는 관련 레벨에 참여하도록 유도된 클라이언트에서 더 높은 정확도를 기록한 데서 유추된다.
• EMNIST 데이터셋에서 PI-FL은 10:90 및 선형 분할 조건에서 Ditto보다 뚜렷한 성능 우위를 보였으며, 이는 집계자 중심의 방법에 비해 클라이언트 중심의 개인화가 유리함을 입증한다.