[논문 리뷰] BAFFLE: A Baseline of Backpropagation-Free Federated Learning

Haozhe Feng, Tianyu Pang외 4명|arXiv (Cornell University)|2023. 01. 28.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

BAFFLE는 기울기 계산을 대체하기 위해 무작위 편향을 사용한 다중 전방 전파를 통해 기울기를 추정하는 백프로파게이션 불필요한 분산 학습 프레임워크를 제안한다. 이는 메모리 및 계산 오버헤드를 크게 줄여 자원이 제한된 엣지 디바이스와 신뢰할 수 있는 실행 환경(TEE)에의 배포를 가능하게 한다.

ABSTRACT

Federated learning (FL) is a general principle for decentralized clients to train a server model collectively without sharing local data. FL is a promising framework with practical applications, but its standard training paradigm requires the clients to backpropagate through the model to compute gradients. Since these clients are typically edge devices and not fully trusted, executing backpropagation on them incurs computational and storage overhead as well as white-box vulnerability. In light of this, we develop backpropagation-free federated learning, dubbed BAFFLE, in which backpropagation is replaced by multiple forward processes to estimate gradients. BAFFLE is 1) memory-efficient and easily fits uploading bandwidth; 2) compatible with inference-only hardware optimization and model quantization or pruning; and 3) well-suited to trusted execution environments, because the clients in BAFFLE only execute forward propagation and return a set of scalars to the server. Empirically we use BAFFLE to train deep models from scratch or to finetune pretrained models, achieving acceptable results. Code is available in https://github.com/FengHZ/BAFFLE.

연구 동기 및 목표

• 자원이 제한된 엣지 디바이스에서 분산 학습의 백프로파게이션에 따른 계산 및 메모리 오버헤드를 해결한다.
• 클라이언트에 모델 파라미터를 노출할 필요 없이 백프로파게이션 기반의 백본 공격 위험을 줄인다.
• 인퍼런스 전용 하드웨어, 모델 양자화, 프루닝 및 신뢰할 수 있는 실행 환경(TEE)과의 호환성을 보장한다.
• 기울기 계산에 의존도를 줄이기 위해 제로오더 최적화의 가능성을 분산 학습 환경에서 탐색한다.

제안 방법

• 유한 차분 근사법을 사용해 무작위 편향이 가미된 모델 가중치에 대한 다중 전방 전파를 통해 기울기를 추정함으로써 백프로파게이션을 대체한다.
• 각 클라이언트는 공유된 난수 시드에서 생성된 무작위 노이즈 벡터 $ \bm{\nu}_k $ 를 사용해 전역 모델 파라미터 $ K $ 번 펌핑한다.
• 클라이언트는 로컬 데이터를 사용해 전방 인퍼런스를 통해 손실 차이 $ \triangle \tilde{\theta} = \tilde{\theta}(\boldsymbol{W} + \bm{\nu}_k) - \tilde{\theta}(\boldsymbol{W} - \bm{\nu}_k) $ 를 계산한다.
• 서버는 이러한 스칼라 손실 차이를 보안적 집합을 통해 집계하여 전체 기울기 벡터를 추정한다.
• 각 손실 차이는 단일 부동소수점 수이므로, 통신 대역폭 조절을 위해 $ K $ 를 조절한다.
• 계층별 계산 분할 및 커널별 최적화를 활용해 엣지 디바이스에서 정적 및 동적 메모리 사용을 최소화한다.

실험 결과

연구 질문

• RQ1 유한 차분을 통한 기울기 추정과 전방 전파에만 의존하는 방식으로 백프로파게이션 없이도 분산 학습이 효과적으로 가능할 수 있는가?
• RQ2 BAFFLE는 엣지 디바이스에서 표준 백프로파게이션 기반 FL 대비 얼마나 메모리 및 계산 오버헤드를 줄이는가?
• RQ3 새로운 모델 학습 또는 사전 학습된 모델 미세조정 시 BAFFLE의 모델 정확도 및 수렴 성능는 어느 정도인가?
• RQ4 낮은 메모리 사용량과 모델 파라미터 노출이 없기 때문에 BAFFLE는 신뢰할 수 있는 실행 환경(TEE)에 안전하게 통합될 수 있는가?
• RQ5 스칼라 손실 차이 $ \triangle \tilde{\theta} $ 에서 발생할 수 있는 정보 泄露 위험은 무엇이며, 표준 인퍼런스 기반 공격과 비교해 어떻게 되는가?

주요 결과

• BAFFLE는 MNIST, CIFAR-10/100, OfficeHome 데이터셋에서 최적 성능에 비해 다소 낮지만 수용 가능한 성능을 달성했으며, ImageNet 사전 학습된 MobileNet을 미세조정할 경우 표준 FL 대비 정확도가 3%–5% 이내이다.
• 계산 그래프를 계층별로 분할하여 전방 인퍼런스를 수행함으로써 표준 백프로파게이션 대비 메모리 사용량을 5%–10%로 줄였고, 커널별 최적화를 통해 최대 약 1% (예: MobileNet 기준 64MB)까지 감소시켰다.
• 낮은 메모리 사용량 덕분에 BAFFLE는 TEE와 호환 가능하며, 약 64MB의 메모리 사용량을 기록해 일반적인 TEE 제한(예: Intel SGX 기준 90MB)에 적합하다.
• 실제 데이터와 무작위 노이즈에서 유도된 손실 차이 $ \triangle \tilde{\theta} $ 가 구분되지 않음을 확인했으며, 이는 구성원 및 모델 역전환 공격에 저항 가능함을 시사한다.
• 전이 학습과 같은 적절한 학습 전략을 적용하면 OfficeHome 데이터셋에서 $ K $ 를 20으로 줄일 수 있어 백프로파게이션 기반 FL 대비 계산 비용을 약 $ \frac{K}{5} $ 배로 감소시킬 수 있다.
• 전방 전파를 통한 제로오더 최적화가 분산 학습에 실현 가능하며, 특히 백프로파게이션을 지원하지 않는 엣지 디바이스 환경에서 유용함을 입증했다.