[논문 리뷰] Federated Learning via Synthetic Data

Jack Goetz, Ambuj Tewari|arXiv (Cornell University)|2020. 08. 11.

Privacy-Preserving Technologies in Data참고 문헌 6인용 수 38

한 줄 요약

본 논문은 연합학습에서 그래디언트 업데이트 대신 합성 데이터를 전송하는 것을 제시하며, 모델 저하가 거의 없는 상태에서 큰 통신 감소를 달성한다.

ABSTRACT

Federated learning allows for the training of a model using data on multiple clients without the clients transmitting that raw data. However the standard method is to transmit model parameters (or updates), which for modern neural networks can be on the scale of millions of parameters, inflicting significant computational costs on the clients. We propose a method for federated learning where instead of transmitting a gradient update back to the server, we instead transmit a small amount of synthetic `data'. We describe the procedure and show some experimental results suggesting this procedure has potential, providing more than an order of magnitude reduction in communication costs with minimal model degradation.

연구 동기 및 목표

• 연합학습에서 클라이언트 업로드 통신 비용을 줄이려는 동기를 부여한다.
• 표준 그래디언트 업데이트를 근사하기 위해 합성 데이터를 활용한다.
• FL에서 합성 데이터를 생성하고 전송하기 위한 실용적 절차를 개발한다.
• 최적화를 안정화하는 개선으로 방법을 강화하고 표준 벤치마크에서 평가한다.

제안 방법

• 클라이언트에서 실제 로컬 업데이트와 유사한 업데이트를 유도하는 합성 데이터를 생성한다.
• 합성에 의해 유도된 업데이트를 실제 업데이트와 일치시키기 위해 증류 기반 목표를 사용한다(매개변수 공간의 제곱 오차 또는 함수 공간의 KL-발산으로).
• 합성 데이터를 서버 업데이트 g로 해독하는 updateFromSynthetic 함수를 계산한다.
• 코호트 전반의 클라이언트 업데이트 g를 집계하여 서버 측 업데이트를 형성한다.
• 효율성을 위해 해시안-벡터 곱(Hessian-vector product)을 사용한 역전파 기반 절차로 합성 데이터를 최적화한다.
• 최적화를 안정화하기 위해 클라이언트 데이터에서 교차 엔트로피를 평가하여 최상의 합성 데이터 세트를 추적한다.

실험 결과

연구 질문

• RQ1 클라이언트에서 전송된 합성 데이터가 통신 비용을 크게 줄이면서 연합학습에서 표준 그래디언트 업데이트를 근사할 수 있는가?
• RQ2 합성 데이터를 어떻게 생성하고 최적화하여 실제 FL 업데이트를 가장 잘 모방하도록 해야 하며, 이 방법의 하이퍼파라미터에 대한 견고성은 어느 정도인가?
• RQ3 이 합성 데이터 FL 프레임워크에서 통신, 계산, 근사 품질 사이의 트레이드오프는 무엇인가?
• RQ4 비용이 과도하지 않으면서 서버-대-클라이언트 전송을 합성 데이터로 확장할 수 있는가?

주요 결과

• 합성 데이터 FL은 업로드 비용의 아주 작은 부분만 필요로 한다(예: MNIST CNN의 그래디언트 업데이트를 전송하는 경우에 비해 부동소수점의 2.4% 수준).
• 합성 데이터 접근은 IID 및 비 IID 데이터 분할에서 표준 전체 그래디언트 전송 FL과 비슷한 모델 성능을 보인다.
• 이 방법은 합리적인 범위(0.03에서 0.3 사이)에서 증류 학습률에 대한 견고성을 보인다.
• 합성 데이터 크기나 계산량을 늘리면 근사도가 향상되지만 수익 체감이 있어 균형 잡힌 조합이 최적임을 시사한다.
• 서버-대-클라이언트 전송으로 확장하는 것은 가능하지만 더 도전적이며, 약 90% 이상 감소로 상당한 다운로드 비용 절감을 달성하되 일부 정확도 trade-off가 있다(약 1.5% 손실).
• 이 기법은 클라이언트 데이터에서 교차 엔트로피를 사용하여 최상의 합성 데이터를 추적함으로써 안정화될 수 있다.