[논문 리뷰] Trustworthy Federated Learning: A Survey

Asadullah Tariq, Mohamed Adel Serhani외 4명|arXiv (Cornell University)|2023. 05. 19.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

이 종합적 서베이는 신뢰할 만한 피어드레이티드 러닝(FL)에 대한 포괄적인 분류 체계를 제안하며, 해석 가능성, 공정성, 보안 및 프라이버시의 세 가지 기둥을 중심으로 한다. 이 서베이는 FL 시스템 전반의 신뢰성 문제를 분석하고, 신뢰 평가를 위한 체계적 아키텍처를 도입하며, 분산형 AI 훈련에서 모델의 강건성, 프라이버시 및 책임성을 향상시키기 위한 주요 연구 격차와 향후 방향을 규명한다.

ABSTRACT

Federated Learning (FL) has emerged as a significant advancement in the field of Artificial Intelligence (AI), enabling collaborative model training across distributed devices while maintaining data privacy. As the importance of FL increases, addressing trustworthiness issues in its various aspects becomes crucial. In this survey, we provide an extensive overview of the current state of Trustworthy FL, exploring existing solutions and well-defined pillars relevant to Trustworthy . Despite the growth in literature on trustworthy centralized Machine Learning (ML)/Deep Learning (DL), further efforts are necessary to identify trustworthiness pillars and evaluation metrics specific to FL models, as well as to develop solutions for computing trustworthiness levels. We propose a taxonomy that encompasses three main pillars: Interpretability, Fairness, and Security & Privacy. Each pillar represents a dimension of trust, further broken down into different notions. Our survey covers trustworthiness challenges at every level in FL settings. We present a comprehensive architecture of Trustworthy FL, addressing the fundamental principles underlying the concept, and offer an in-depth analysis of trust assessment mechanisms. In conclusion, we identify key research challenges related to every aspect of Trustworthy FL and suggest future research directions. This comprehensive survey serves as a valuable resource for researchers and practitioners working on the development and implementation of Trustworthy FL systems, contributing to a more secure and reliable AI landscape.

연구 동기 및 목표

• 의료 및 금융과 같은 프라이버시 민감도가 높은 분야에서의 증가하는 FL 도입에 따라 신뢰성에 대한 수요를 충족시키기 위해.
• 중앙집중형 AI에 비해 개발이 미흡한, FL에 특화된 핵심 신뢰성 기둥—해석 가능성, 공정성, 보안 및 프라이버시—를 식별하고 정의하기 위해.
• 클라이언트 참여에서 서버 집계에 이르기까지 FL의 모든 수준에서 신뢰 문제를 체계적으로 분석하기 위해, 공격 및 시스템 취약성 포함.
• 모델 업데이트의 검증 가능성, 감사 가능성, 악성 행위자 및 신뢰할 수 없는 클라이언트에 대한 저항성을 지원하는 통합된 아키텍처를 제안하기 위해.
• 핵심 열린 연구 문제를 부각시키고, 안전하고 공정하며 해석 가능한 FL 시스템을 발전시키기 위한 향후 방향을 제안하기 위해.

제안 방법

• 해석 가능성(모델 설명 가능성), 공정성(편향 완화), 보안 및 프라이버시(데이터 보호, 무결성 및 기밀성)를 포함한 세 기둥 분류 체계를 제안한다.
• 모델 검증, 불변 업데이트 로깅, 클라이언트 인증을 지원하는 통합된 아키텍처 프레임워크를 도입한다.
• 검증 가능한 집계 프로토콜 및 취약성에 대비한 동적 키 관리 기반의 신뢰 평가 메커니즘을 분석한다.
• 비IIDs 데이터, 클라이언트 이탈, 통신 오버헤드 등의 과제를 검토하고, 프라이버시와 무결성을 유지하는 해결책을 제안한다.
• 책임성, 감사 가능성, 강건성을 FL 파이프라인에 통합하며, 분산형 및 검증 가능한 훈련 프로세스에 중점을 둔다.
• 신뢰할 수 있는 기여 평가 및 공정한 인cent라이브 배분 메커니즘을 제안하여, 악성 클라이언트 참여 및 시비르 또는 게으른 공격을 방지한다.

실험 결과

연구 질문

• RQ1 피어드레이티드 러닝에서의 핵심 신뢰성 기둥은 무엇이며, 중앙집중형 머신러닝과 어떻게 다를까?
• RQ2 신뢰할 수 없는 클라이언트와 잠재적으로 손상된 서버를 가진 분산형 FL 환경에서 모델의 무결성과 진위성을 어떻게 검증할 수 있을까?
• RQ3 이질적이고 신뢰성이 떨어지는 클라이언트를 가진 FL 시스템에서 공정한 기여 평가 및 공정한 인센티브 배분을 보장하는 메커니즘은 무엇일까?
• RQ4 데이터 풀링 및 백도어 공격에 대해 인증 가능한 강건성을 확보하면서도 프라이버시를 유지하는 FL 시스템은 어떻게 설계할 수 있을까?
• RQ5 대규모 FL 구현에서 통신 병목 현상을 유발하지 않으면서도 안전한 모델 집계를 지원할 수 있는 확장 가능하고 효율적인 프로토콜은 무엇일까?

주요 결과

• 기존 FL 연구에 비해 중앙집중형 AI에 비해 개발이 미흡한, 신뢰할 만한 FL의 세 핵심 기둥—해석 가능성, 공정성, 보안 및 프라이버시—는 필수적이다.
• 신뢰할 만한 FL는 모델 업데이트 로그의 불변성과 클라이언트 신원 인증을 지원하는 보안성, 검증 가능성, 감사 가능성을 갖춘 아키텍처가 필요하다.
• 현재의 FL 시스템은 데이터 풀링, 모델 풀링, 백도어 공격에 취약하여 강력한 탐지 및 방어 메커니즘이 필요하다.
• 에지 컴퓨팅 및 IoT와 같은 자원 제약 환경은 경량화되고 프라이버시를 보장하며 검증 가능한 FL 프로토콜이 필요하여 확장성과 내성 강화를 확보해야 한다.
• 효율적이고 확장 가능한 안전한 집계 프로토콜은 통신 오버헤드를 극복하고, 신뢰할 만한 FL의 대규모 구현을 가능하게 하기 위해 필수적이다.
• 동적 키 관리 및 적시 모니터링는 일부 구성 요소가 손상된 경우에도 시스템의 무결성을 유지하고, FL 프로세스에 대한 지속적인 신뢰를 확보하기 위해 필수적이다.