[論文レビュー] A Secure and Efficient Federated Learning Framework for NLP

Jie‐Ren Deng, Chenghong Wang+8 more|arXiv (Cornell University)|Jan 28, 2022

Privacy-Preserving Technologies in Data被引用数 6

ひとこと要約

本稿では、NLP向けに安全かつ効率的なフェデレーテッドラーニングフレームワークであるSEFLを提案する。SEFLは、暗号化されたモデル更新の安全な集約を可能にする2つの非共謀性を持つサーバー（集約サーバーと暗号サービスプロバイダー）を用いることで、信頼できる集約者を不要にする。既存の手法と同等またはそれ以上のモデル精度を達成するとともに、モデル重みと更新のブロックハンケル行列に基づくプルーニングによって、計算量と通信量を削減し、実行時間性能を最大13.7倍まで向上させ、クライアントの離脱に対しても耐性を示す。

ABSTRACT

In this work, we consider the problem of designing secure and efficient federated learning (FL) frameworks. Existing solutions either involve a trusted aggregator or require heavyweight cryptographic primitives, which degrades performance significantly. Moreover, many existing secure FL designs work only under the restrictive assumption that none of the clients can be dropped out from the training protocol. To tackle these problems, we propose SEFL, a secure and efficient FL framework that (1) eliminates the need for the trusted entities; (2) achieves similar and even better model accuracy compared with existing FL designs; (3) is resilient to client dropouts. Through extensive experimental studies on natural language processing (NLP) tasks, we demonstrate that the SEFL achieves comparable accuracy compared to existing FL solutions, and the proposed pruning technique can improve runtime performance up to 13.7x.

研究の動機と目的

• 既存のフェデレーテッドラーニングフレームワークが信頼できる集約者に依存していることや、クライアントの離脱に対して脆弱であるという限界を解消すること。
• 信頼できる第三者を必要とせずに微分プライバシーを保持する安全なFLシステムを設計すること。
• RNN やトランスフォーマーなどのNLPモデルにおける、安全なFLにおける計算、通信、ストレージのオーバーヘッドを低減すること。
• トレーニング中に最大75％のクライアントが離脱しても、依然として堅牢な学習が可能になるようにすること。
• モデルの精度を損なわず、モデルサイズを縮小し実行時間性能を向上させる効率的なプルーニング技術を統合すること。

提案手法

• SEFLは、クライントの更新を暗号化して収集・安全に集約する集約サーバー（AS）と、復号鍵を保持する暗号サービスプロバイダー（CSP）という2つの非共謀性を持つサーバーを用いる。
• フレームワークは、個々のクライントの寄与が露呈されないよう、暗号化されたモデル更新の安全な集約を可能にする加法的準同型暗号（AHE）を採用する。
• 微分プライバシーはガウス機構を用いて実装され、モデル感度に比例したノイズを注入することで、メンバー推定攻撃から保護する。
• ブロックハンケル行列（BHM）に基づくローカルプルーニング技術を適用し、モデル重みと更新を圧縮することで、空間的・通信的複雑度をO(l²)からO(2l−1)に低減する。
• プルーニングは送信前にローカルで実行されるため、送信データ量が削減され、微分プライバシー集約ステップにおけるノイズ注入回数も減少する。
• クライアントの更新が欠落しても、グローバルモデルの安定性を保証することで、モデル精度と収束性を維持するようにシステムを設計している。

実験結果

リサーチクエスチョン

• RQ1 信頼できる集約者に依存せずに、強力なプライバシー保証を達成できるフェデレーテッドラーニングフレームワークは構築可能か？
• RQ2 安全なFLにおいて、モデル精度を低下させることなく、クライアントの離脱を効果的に処理する方法は何か？
• RQ3 ブロックハンケル行列に基づくモデル圧縮は、NLP向け安全なFLにおける通信量および計算コストをどの程度低減できるか？
• RQ4 プルーニングと微分プライバシーを統合することで、FLにおける効率性とモデル精度が向上するか？
• RQ5 安全なFLシステムが、正確なモデルを生成し続けることができる最大のクライアント離脱率は何か？

主な発見

• SEFLは、CDP-FLなどの最先端のプライベートFL手法と同等またはそれ以上のモデル精度を達成しており、トランスフォーマーでは最大15％、LSTMでは11％の精度向上をプルーニングを用いた場合に達成した。
• 提案されたBHMベースのプルーニング技術により、LSTMおよびトランスフォーマー両モデルにおいて、非圧縮SEFLと比較して実行時間性能が最大13.7倍向上した。
• 75％のクライアントが離脱しても、LSTMモデルではノーディスカウントケースと比較して17.41、トランスフォーマーでは46.34の高い perplexity に留まり、モデル品質を維持した。
• 最適なプルーニング設定下では、LSTMモデルで19.3％、トランスフォーマーで12.8％の精度向上が非最適化SEFLに対して達成された。
• モデル表現の複雑度がO(l²)からO(2l−1)に低減され、ストレージおよび通信コストが顕著に削減された。
• SEFLはクライアントの離脱に対して強く、多数のクライアントがオフラインであっても、安定した収束と正確なグローバルモデルを維持した。