[論文レビュー] FedLoc: Federated Learning Framework for Data-Driven Cooperative Localization and Location Data Processing

Feng Yin, Zhidi Lin+6 more|arXiv (Cornell University)|Mar 8, 2020

Indoor and Outdoor Localization Technologies参考文献 118被引用数 14

ひとこと要約

FedLocは、プライバシーを守りながらデータ駆動型の協調位置特定と位置データ処理を実現するフェデレーテッドラーニングフレームワークを提案する。これにより、モバイルユーザーは生の位置データを共有せずに、高精度な位置特定モデルを共同で訓練できる。ディープニューラルネットワークとガウス過程を活用した分散学習により、FedLocは位置特定および時空間予測において中央集権的性能に近い結果を達成するとともに、ユーザーのプライバシーを保護する。

ABSTRACT

In this overview paper, data-driven learning model-based cooperative localization and location data processing are considered, in line with the emerging machine learning and big data methods. We first review (1) state-of-the-art algorithms in the context of federated learning, (2) two widely used learning models, namely the deep neural network model and the Gaussian process model, and (3) various distributed model hyper-parameter optimization schemes. Then, we demonstrate various practical use cases that are summarized from a mixture of standard, newly published, and unpublished works, which cover a broad range of location services, including collaborative static localization/fingerprinting, indoor target tracking, outdoor navigation using low-sampling GPS, and spatio-temporal wireless traffic data modeling and prediction. Experimental results show that near centralized data fitting- and prediction performance can be achieved by a set of collaborative mobile users running distributed algorithms. All the surveyed use cases fall under our newly proposed Federated Localization (FedLoc) framework, which targets on collaboratively building accurate location services without sacrificing user privacy, in particular, sensitive information related to their geographical trajectories. Future research directions are also discussed at the end of this paper.

研究の動機と目的

• 複雑な環境（屋内モールや都市部など）において、データ駆動型モデルを用いて高精度な位置特定を達成する挑戦に応えること。
• 特に機微な地理的軌跡に関する懸念を考慮しつつ、生の位置データを漏洩させることなく、モバイルユーザー間で協調的なモデル学習を可能にすること。
• 分散型で非i.i.d.なデータに起因する大規模な位置特定モデルの学習における計算および通信のボトル neck を克服すること。
• フェデレーテッドラーニングを協調位置特定、ターゲット追跡、時空間交通予測といった新しい応用分野へ拡張すること。
• 分散最適化、プライバシー保護技術、実世界の展開要件を統合した包括的なフレームワークを提供すること。

提案手法

• 生のデータを送信せずに、モバイルユーザーが収集したローカルデータを用いてグローバルモデルを訓練するフェデレーテッドラーニングを活用する。
• 複雑な位置特定および時空間パターンをモデル化するためのコアな学習モデルとして、ディープニューラルネットワーク（DNNs）とガウス過程（GPs）を採用する。
• 非i.i.d.データおよびユーザー間でのデータサイズの不均衡に対処するため、ハイパーパramータチューニングを施した分散最適化技術を適用する。
• 勾配伝送を最小限に抑えるために、モデル量子化（例：8ビット精度）およびsignSGDを活用し、通信負荷を低減する。
• 悪意あるまたは信頼性の低いユーザーの寄与によるリスクを軽減するため、頑健な最適化および推定技術を統合する。
• ローカルデータが不足している場合の性能向上を目的に、標準的なパラメトリックモデルを用いたデータ拡張を実施する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングは、協調位置特定システムにおいて、ユーザーのプライバシーを守りながらも中央集権的性能に近い位置特定精度を達成できるか？
• RQ2 DNNやGPといった分散学習モデルは、屋内フィンガープrintィングや屋外GPS追跡といった実世界の位置サービスに効果的に応用可能か？
• RQ3 フェデレーテッド位置特定における通信効率、データの非同一性、モデル収束の主な課題は何か。それらはどのように解決できるか？
• RQ4 マルチモーダルデータ（例：無線および視覚的測定の統合）を扱うフェデレーテッドラーニングは、より高い位置特定のロバストネスを実現するためにどのように拡張可能か？
• RQ5 ソーシャルグラフ構造およびグラフベースのモデルは、フェデレーテッド位置特定における参加促進および性能向上に果たす役割は何か？

主な発見

• FedLocは、屋内フィンガープリントィング、屋外GPS追跡、無線トラフィック予測を含む複数のユースケースにおいて、中央集権的性能に近いデータ適合および予測性能を達成する。
• 8ビット精度へのモデル量子化とsignSGDの適用により、通信負荷が最大32倍まで低減され、性能の著しい低下は生じない。
• 頑健な分散最適化技術により、一部のユーザーが誤ったまたは悪意ある更新を提供しても、モデルの精度を維持できる。
• 標準的なパラメトリックモデルを用いたデータ拡張により、ローカルデータが限られている場合のモデル一般化性能が向上する。
• 無線測定と視覚的測定を統合することで、特に困難な追跡シナリオにおいて、位置特定の精度とロバストネスが向上する。
• 5Gの進展、エッジAIチップ、高精度地図の発展を背景に、スケーラブルで実用的なフレームワークとしての実装が可能である。