[論文レビュー] Federated Learning for Big Data: A Survey on Opportunities, Applications, and Future Directions

Thippa Reddy Gadekallu, Quoc‐Viet Pham+7 more|arXiv (Cornell University)|Oct 8, 2021

Privacy-Preserving Technologies in Data参考文献 121被引用数 42

ひとこと要約

本調査は、連邦学習(Federated Learning)がビッグデータの課題にどう対処できるかを、ビッグデータサービス（取得、保存、分析、プライバシー）での利用と、アプリケーション（スマートシティ、ヘルスケア、交通、グリッド、ソーシャルメディア）をレビューすることにより分析し、課題と今後の方向性を示す。

ABSTRACT

In the recent years, generation of data have escalated to extensive dimensions and big data has emerged as a propelling force in the development of various machine learning advances and internet-of-things (IoT) devices. In this regard, the analytical and learning tools that transport data from several sources to a central cloud for its processing, training, and storage enable realization of the potential of big data. Nevertheless, since the data may contain sensitive information like banking account information, government information, and personal information, these traditional techniques often raise serious privacy concerns. To overcome such challenges, Federated Learning (FL) emerges as a sub-field of machine learning that focuses on scenarios where several entities (commonly termed as clients) work together to train a model while maintaining the decentralisation of their data. Although enormous efforts have been channelized for such studies, there still exists a gap in the literature wherein an extensive review of FL in the realm of big data services remains unexplored. The present paper thus emphasizes on the use of FL in handling big data and related services which encompasses comprehensive review of the potential of FL in big data acquisition, storage, big data analytics and further privacy preservation. Subsequently, the potential of FL in big data applications, such as smart city, smart healthcare, smart transportation, smart grid, and social media are also explored. The paper also highlights various projects pertaining to FL-big data and discusses the associated challenges related to such implementations. This acts as a direction of further research encouraging the development of plausible solutions.

研究の動機と目的

• 連邦学習（FL）とビッグデータの基礎、およびそれらを統合する動機を提示する。
• 取得、保存、分析、プライバシー保護など、ビッグデータサービスにおけるFLの活用をレビューする。
• 垂直分野（スマートシティ、スマートヘルスケア、スマート交通、スマートグリッド、ソーシャルメディア）におけるFL対応ビッグデータアプリケーションを調査する。
• 実践的なFL×ビッグデータプロジェクトを要約し、主要な課題と潜在的な方向性を議論する。

提案手法

• データ特性（水平的、垂直的、連邦転移学習）とネットワークトポロジー（集中型、分散型）に基づいてFLを分類する。
• ビッグデータの分類体系（データドメイン、保存、計算、AIベースの処理）と統合動機（プライバシー、通信、バリエーション、多様性、分析、スケーラビリティ）を説明する。
• ビッグデータサービスにおけるFLの役割を、取得、保存、分析、プライバシー保護とともに、最新の例を挙げてレビューする。
• FL対応の垂直アプリケーションを調査し、実用性を示す代表的なプロジェクトを引用する。
• 課題（通信ボトルネック、データのヘテロジニティ、統計的ヘテロジニティ、プライバシー問題）を特定し、今後の研究方向を提案する。

実験結果

リサーチクエスチョン

• RQ1 ビッグデータ環境におけるセキュリティ、プライバシー、スケーラビリティの課題に、連邦学習はどのように対処できるか。
• RQ2 FLが恩恵を受けるビッグデータサービス（取得、保存、分析、プライバシー保護）は何か、そしてそれらはどのように実現されているか。
• RQ3 どの垂直アプリケーション（例：スマートシティ、ヘルスケア、交通、グリッド、ソーシャルメディア）がFL×ビッグデータの実現性を示しているか。
• RQ4 ビッグデータにおけるFLの主要な未解決課題と、それを克服する潜在的方向性。

主な発見

• FLは生データではなくモデルパラメータを転送することにより、分散データ上でモデルを訓練でき、プライバシーリスクを低減する。
• FLは生データの代わりに訓練済みモデルのアップデートを共有することで通信コストを削減する。
• エdgeデバイスでデータタイプに合わせた局所処理を可能にすることで、データの多様性と異質性に対応する。
• 産業IoTとスマートシステムにおけるスケーラブルな分析とプライバシー保護データ管理を支援する。
• 本調査はビッグデータサービス（取得、保存、分析、プライバシー）とアプリケーション（スマートシティ、ヘルスケア、交通、グリッド、ソーシャルメディア）を包括しており、実用的なプロジェクトと課題について議論する。