[논문 리뷰] Reliable Federated Learning for Mobile Networks

Jiawen Kang, Zehui Xiong외 4명|arXiv (Cornell University)|2019. 10. 14.

Privacy-Preserving Technologies in Data참고 문헌 15인용 수 6

한 줄 요약

이 논문은 이동망에서 연합 학습을 위한 신뢰도 기반의 워커 선택 기법을 제안하며, 다중 가중치 주관적 논리 모델과 협의체 블록체인을 활용하여 위변조에 강건하고 탈중앙화된 신뢰도 관리를 보장한다. 이 방법은 악성 또는 신뢰할 수 없는 워커를 걸러내어 학습 정확도를 향상시키며, 시뮬레이션 결과 유해 공격 상황에서 보호되지 않은 기법 대비 최대 7.7% 높은 정확도를 기록한다.

ABSTRACT

Federated learning, as a promising machine learning approach, has emerged to leverage a distributed personalized dataset from a number of nodes, e.g., mobile devices, to improve performance while simultaneously providing privacy preservation for mobile users. In the federated learning, training data is widely distributed and maintained on the mobile devices as workers. A central aggregator updates a global model by collecting local updates from mobile devices using their local training data to train the global model in each iteration. However, unreliable data may be uploaded by the mobile devices (i.e., workers), leading to frauds in tasks of federated learning. The workers may perform unreliable updates intentionally, e.g., the data poisoning attack, or unintentionally, e.g., low-quality data caused by energy constraints or high-speed mobility. Therefore, finding out trusted and reliable workers in federated learning tasks becomes critical. In this article, the concept of reputation is introduced as a metric. Based on this metric, a reliable worker selection scheme is proposed for federated learning tasks. Consortium blockchain is leveraged as a decentralized approach for achieving efficient reputation management of the workers without repudiation and tampering. By numerical analysis, the proposed approach is demonstrated to improve the reliability of federated learning tasks in mobile networks.

연구 동기 및 목표

• 이동망을 위한 연합 학습에서 신뢰할 수 없거나 악성 워커 업데이트의 문제를 해결하기 위해.
• 학습 중에 저신뢰도 또는 불신뢰할 수 있는 워커를 식별하고 배제하여 모델 정확도를 향상시키기 위해.
• 보안성, 탈중앙화 및 부인 불가능성을 확보한 이동 단말기 워커의 신뢰도 관리 체계를 제공하기 위해.
• 상호작용 빈도, 시간적 흐름 및 행동 이력 등을 고려한 공정한 평가를 위한 보상 모델을 설계하기 위해.
• 다양한 공격 시나리오와 임계값 하에서 보상 기반 워커 선택의 효과를 평가하기 위해.

제안 방법

• 이력 상호작용, 빈도 및 시간적 흐름을 바탕으로 워커의 신뢰도를 계산하기 위해 다중 가중치 주관적 논리 모델(MSL)을 도입한다.
• 위변조에 강건하고 부인 불가능한 방식으로 보상 값을 저장 및 관리하기 위해 협의체 블록체인을 활용한다.
• 엣지 노드(예: 도로변 단위, 기지국)를 사전 선정된 마이너로 활용하여 블록체인을 효율적으로 유지한다.
• 보안성 기반의 임계값을 적용하여 일정 수준 이하의 신뢰도를 가진 워커를 참여에서 제외한다.
• 감도 분석 및 이력 기반 행동 반영 능력을 중심으로 MSL을 TSL 및 ATV 기법과 비교하여 보상 계산 성능을 평가한다.
• EMD, 공격자 수, 공격 강도 등의 지표를 사용하여 수치 시뮬레이션을 통해 기법의 유효성을 검증한다.

실험 결과

연구 질문

• RQ1 동적 이동 환경에서의 연합 학습에서 워커의 신뢰도를 효과적으로 계산하여 신뢰성을 반영할 수 있는 방법은 무엇인가?
• RQ2 신뢰도 임계값 선택이 연합 학습 모델의 정확도와 신뢰성에 미치는 영향은 어떠한가?
• RQ3 제안된 다중 가중치 주관적 논리 모델은 기존의 보상 모델 대비 악성 또는 불신뢰성 있는 워커를 탐지하는 데 얼마나 효과적인가?
• RQ4 블록체인 기반의 보상 관리 체계는 워커 선택 과정에서 위변조 및 부인을 얼마나 효과적으로 방지하는가?
• RQ5 데이터 오염 강도 및 공격자 수와 같은 요소들이 보상 기반 필터링 존재 하에서 학습 정확도에 미치는 영향은 어떠한가?

주요 결과

• 낮은 보상 임계값 하에서 MSL 기법은 ATV 및 TSL 기법보다 더 높은 학습 정확도를 달성하며, 특히 실수로 인한 오류를 가진 워커를 걸러내는 데서 두드러진 성능을 보인다.
• 신뢰도 임계값이 0.45를 초과할 경우, MSL, TSL, ATV 모두 유사한 성능을 보이며, 공격 강도가 높은 상황에서도 악성 워커를 효과적으로 탐지함을 시사한다.
• MSL 기법은 상호작용 빈도와 시간적 흐름을 고려함으로써 ATV 및 TSL 대비 악성 워커의 보상 감소 폭이 더 급격하고 크다.
• 두 명의 공격자가 존재할 경우, EMD=1.6 및 공격 강도=0.9 조건에서 학습 정확도는 76.12%로 떨어지며, 단일 공격자 시나리오 대비 7.7% 감소한다.
• 보상 방어 기법이 없는 시나리오는 악성 행동을 하는 워커에게도 선형적으로 보상이 증가하는 경향을 보이며, 이는 보상 기반 필터링의 필요성을 강조한다.
• ATV 기법은 현재의 부정적 사건에 더 민감하지만 이력상 양호한 행동을 간과하여 고정밀도 오류율이 증가하고 정상 워커의 참여 동기를 저해한다.