[논문 리뷰] IronForge: An Open, Secure, Fair, Decentralized Federated Learning

Guangsheng Yu, Xu Wang외 6명|arXiv (Cornell University)|2023. 01. 07.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

IronForge는 중심 조정자를 제거하고 비동기적이고 개방적이며 공정한 모델 집합을 가능하게 하는 완전히 탈중앙화된 피드포워드 학습 프레임워크이다. 이는 방향성 비순환 그래프(DAG)를 사용하여 중심 조정자 의존도를 제거한다. 또한, 학습 증명(PoL) 챌린지와 모델 도용, 백도어 및 데이터 기밀성 공격에 대한 방어를 포함하는 안전하고 상태 일관성 있는 인cent라이브 메커니즘을 도입하여 실제 자원 불균형 네트워크에서 뛰어난 성능, 공정성 및 보안성을 입증한다.

ABSTRACT

Federated learning (FL) provides an effective machine learning (ML) architecture to protect data privacy in a distributed manner. However, the inevitable network asynchrony, the over-dependence on a central coordinator, and the lack of an open and fair incentive mechanism collectively hinder its further development. We propose extsc{IronForge}, a new generation of FL framework, that features a Directed Acyclic Graph (DAG)-based data structure and eliminates the need for central coordinators to achieve fully decentralized operations. extsc{IronForge} runs in a public and open network, and launches a fair incentive mechanism by enabling state consistency in the DAG, so that the system fits in networks where training resources are unevenly distributed. In addition, dedicated defense strategies against prevalent FL attacks on incentive fairness and data privacy are presented to ensure the security of extsc{IronForge}. Experimental results based on a newly developed testbed FLSim highlight the superiority of extsc{IronForge} to the existing prevalent FL frameworks under various specifications in performance, fairness, and security. To the best of our knowledge, extsc{IronForge} is the first secure and fully decentralized FL framework that can be applied in open networks with realistic network and training settings.

연구 동기 및 목표

• 중앙 집중형 피드포워드 학습의 한계를 해결하기 위해 단일 장애 지점, 네트워크 비동기성, 자원 불균형 환경에서의 불공정한 인cent라이브 메커니즘을 해결한다.
• 시스템 가용성과 훈련 유연성을 유지하면서도 중심 조정자를 제거하고 개방형 네트워크에서의 운영을 가능하게 한다.
• 자원 격차가 존재하는 상황에서도 검증 가능한 훈련 기여도에 기반해 참가자를 공정하게 보상하는 개방적이고 공정한 인센티브 메커니즘을 확립한다.
• 탈중앙화된 피드포워드 학습 환경에서 모델 도용, 공모, 백도어 및 데이터 기밀성 泄露 공격을 방어한다.
• 공개 검증과 합의를 탈중앙화 방식으로 지원할 수 있는 안전하고 상태 일관성 있는 DAG 기반 아키텍처를 설계한다.

제안 방법

• IronForge는 모델 업데이트를 표현하기 위해 방향성 비순환 그래프(DAG)를 사용하여 중심 조정자가 없는 비동기 집합을 가능하게 한다.
• 공정하고 예측 불가능한 합의 노드 선정을 위해 VRF(Verifiable Random Function) 기반의 위원회 선거를 도입한다.
• 학습 증명(PoL) 메커니즘을 통해 참가자들이 모델 소유자에게 도전할 수 있도록 하여, 공개 검증을 위해 요구 시 훈련 결과를 재현하도록 한다.
• 시간 창 ΔT 동안 상태 일관성을 강제하여, 모든 노드가 Global-DAG 상태를 일관되게 인식하도록 하여 합의 공격을 방지한다.
• PoL 챌린지 중에 데이터셋을 가림 처리하는 기법을 적용하여 기밀성은 유지하면서도 모델 유효성 검증이 가능하도록 한다.
• 보안 방어 조치로는 합의 과정에서 훈련을 다시 시작하는 재생 기능과 비-IID 노이즈 적용을 통해 반복적인 챌린지로 인한 기밀성 泄露 위험을 감소시킨다.

Figure 1: System model of IronForge

실험 결과

연구 질문

• RQ1 완전히 탈중앙화된 피드포워드 학습 시스템이 네트워크 비동기성 하에서도 시스템 안정성을 유지하면서 중심 조정자를 제거할 수 있는가?
• RQ2 자원 분포가 불균형한 탈중앙화된 피드포워드 학습 환경에서 공정하고 개방적인 인센티브 메커니즘을 어떻게 확립할 수 있는가?
• RQ3 공개적이고 개방적인 네트워크에서 모델 소유권과 훈련 기여도가 검증 가능할 때, 모델 도용 및 공모 공격을 방지할 수 있는 메커니즘은 무엇인가?
• RQ4 학습 증명 챌린지와 같은 공개 검증 과정에서 데이터 기밀성이 어떻게 유지될 수 있는가?
• RQ5 DAG 기반 아키텍처가 탈중앙화된 피드포워드 학습 환경에서 장기적인 상태 일관성과 합의 공격에 대한 저항성을 확보할 수 있는가?

주요 결과

• IronForge는 중심 조정자를 제거함으로써 완전한 탈중앙화를 달성하여 실제 네트워크 조건과 훈련 환경에서의 운영이 가능하다.
• DAG 기반 모델 아키텍처는 비동기 집합을 지원하여 동기적 또는 의사 동기적 피드포워드 학습 프레임워크 대비 네트워크 비동기성에 대한 시스템 내성 향상에 기여한다.
• 학습 증명(PoL) 메커니즘은 훈련 기여도의 공개 검증을 가능하게 하여 모델 도용 및 위조 기여도 주장 방지에 효과적이다.
• 충분히 긴 시간 창 ΔT 동안 상태 일관성이 유지되어 합의 노드들이 Global-DAG 상태를 일관되게 인식하고, 네트워크 지연으로 인한 무한한 불일치를 방지한다.
• PoL 챌린지 중 데이터셋 가림 처리 기법을 통해 기밀성 泄露 위험을 감소시키면서도 모델 유효성은 유지하여 모델 녹기 공격에 대비한다.
• FLSim 테스트베드에서의 실험 결과, IronForge는 성능, 공정성 및 보안성 측면에서 기존 프레임워크를 초월하며, 보상 분포 안정성 및 오염 및 백도어 공격에 대한 저항성 등 다양한 지표에서 뛰어난 성능을 보였다.

Figure 2: Task-DAG. The figure illustrates an overview of starting a new DAG-based FL task, also known as Task-DAG . One with aims to improve his model accuracy to a certain target with the help of the community can release a task as the task publisher. Some amount of token is deposited as the prize