[논문 리뷰] From Federated Learning to Federated Neural Architecture Search: A Survey

Hangyu Zhu, Haoyu Zhang외 1명|arXiv (Cornell University)|2020. 09. 12.

Privacy-Preserving Technologies in Data참고 문헌 133인용 수 10

한 줄 요약

이 종합적 서베이는 프라이버시를 보존하는 프레임워크를 갖춘 피어드 러닝과 자동 아키텍처 검색을 통합한 피어드 네트워크 아키텍처 검색(Federated NAS)에 대한 포괄적인 개요를 제안한다. 피어드 NAS는 온라인/오프라인 및 단일/다중 목적 접근 방식으로 분류되며, 통신 효율성, 모델 성능, 프라이버시와 같은 과제들을 강조하고, 탈중앙화된 시스템에서 안전하고 실시간으로 신경망 아키텍처를 최적화하기 위한 핵심 연구 격차와 향후 방향성을 규명한다.

ABSTRACT

Federated learning is a recently proposed distributed machine learning paradigm for privacy preservation, which has found a wide range of applications where data privacy is of primary concern. Meanwhile, neural architecture search has become very popular in deep learning for automatically tuning the architecture and hyperparameters of deep neural networks. While both federated learning and neural architecture search are faced with many open challenges, searching for optimized neural architectures in the federated learning framework is particularly demanding. This survey paper starts with a brief introduction to federated learning, including both horizontal, vertical, and hybrid federated learning. Then, neural architecture search approaches based on reinforcement learning, evolutionary algorithms and gradient-based are presented. This is followed by a description of federated neural architecture search that has recently been proposed, which is categorized into online and offline implementations, and single- and multi-objective search approaches. Finally, remaining open research questions are outlined and promising research topics are suggested.

연구 동기 및 목표

• 피어드 러닝과 신경망 아키텍처 검색(NAS)의 융합을 중심으로 한 피어드 NAS에 대한 체계적인 리뷰를 제공하기 위해.
• 피어드 러닝 환경에서 NAS를 수행할 때 발생하는 주요 과제, 즉 프라이버시, 통신, 계산 제약 조건을 식별하고 분류하기 위해.
• 오프라인과 온라인 피어드 NAS 간의 차이를 구분하고, 실시간 성능과 자원 제약 조건으로 인해 온라인 접근 방식이 더 높은 요구 수준을 갖춘다는 점을 강조하기 위해.
• 정확도, 통신 비용, 모델 복잡도, 기기 메모리 등 다양한 요소 간의 트레이드오프를 고려하여 탈중앙화된 환경에서의 단일 및 다중 목적 NAS 전략을 분석하기 위해.
• 개방된 연구 문제들을 요약하고, 강력하고 효율적이며 프라이버시를 보존하는 피어드 NAS 시스템을 위한 유망한 향후 방향성을 제안하기 위해.

제안 방법

• 데이터 분포와 클라이언트 특성에 기반해 피어드 러닝을 수평형, 수직형, 하이브리드형으로 분류한다.
• 강화 학습, 유전 알고리즘, 기울기 기반 검색의 세 가지 주요 NAS 파라다임을 검토하며, 이들이 피어드 환경에 어떻게 적용 가능한지 강조한다.
• 피어드 NAS를 오프라인 및 온라인 최적화로 분류하며, 온라인 방법은 검색 중 실시간 성능과 낮은 지연 시간을 요구한다는 점을 강조한다.
• 탈중앙화된 시스템에서의 단일 목적 및 다중 목적 NAS를 구분하고, 정확도, 통신 비용, 모델 크기, 메모리 사용량 간의 트레이드오프를 분석한다.
• 동형 암호화 및 보안 다자간 계산(SMC)과 같은 프라이버시 보존 기법을 검토하며, 이들의 계산 및 통신 오버헤드를 강조한다.
• 피어드 NAS에서의 악성 공격, 예를 들어 모델 역전환 및 백도어 공격에 대해 논의하고, 기울기 압축, 차별적 프라이버시, 바이러스성에 강건한 집계와 같은 방어 기법을 평가한다.

실험 결과

연구 질문

• RQ1 신경망 아키텍처 검색은 피어드 러닝의 탈중앙화되고 프라이버시를 보존하는 제약 조건에 효과적으로 어떻게 적응시킬 수 있는가?
• RQ2 성능, 통신, 자원 사용 측면에서 오프라인과 온라인 피어드 NAS 간의 주요 차이점과 트레이드오프는 무엇인가?
• RQ3 피어드 NAS에서의 다중 목적 최적화 전략은 정확도, 통신 비용, 모델 복잡도 등의 상충되는 목표를 어떻게 균형 잡는가?
• RQ4 피어드 NAS에서 주요 프라이버시 및 보안 위협은 무엇이며, 암호화 기법을 통해 어떻게 이를 완화할 수 있는가?
• RQ5 실제 운영에 적용 가능한 실시간 피어드 NAS 시스템을 개발하는 데 있어 가장 시급한 열린 과제는 무엇인가?

주요 결과

• 오프라인 유전적 NAS 방법은 높은 통신 비용과 별도의 검색/가중치 학습 단계로 인해 실세계 응용에 비실용적이다.
• 온라인 피어드 NAS는 검색 중 수용 가능한 모델 성능 유지를 요구하고 엣지 기기에서의 엄격한 계산 제약 조건으로 인해 더 도전적이다.
• RT-FedEvoNAS는 온라인 피어드 NAS에 대한 실현 가능한 솔루션을 제공하지만, 매우 제한된 검색 공간으로 인해 한계가 있다.
• 피어드 NAS에서의 동형 암호화는 수백만 개의 파라미터에 대해 큰 수를 인코딩하고 모듈로 연산을 수행함으로써 계산적으로 매우 부담스럽다.
• SMC를 통한 비밀 키 공유로 인해 통신 비용이 크게 증가한다. 클라이언트는 기울기의 부분 해독을 위해 자주 키 조각을 교환해야 하기 때문이다.
• 피어드 러닝은 여전히 백그라운드 공격, 예를 들어 기울기에서 유래한 모델 역전환 및 데이터 복원 공격에 취약하며, 프라이버시 보존 기법이 적용된 후에도 마찬가지로 그렇다.