[論文レビュー] Fusion of Federated Learning and Industrial Internet of Things: A Survey

M Parimala, Swarna Priya R.M.+5 more|arXiv (Cornell University)|Jan 4, 2021

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本サーベイは、工業的インターネット・オブ・シングズ（IIoT）システムへのフェデレーテッドラーニング（FL）の包括的統合を提案し、プライバシー保護型でデバイス内での機械学習を可能にする。モデルをエッジデバイスでローカルに学習し、暗号化されたモデル更新のみを共有することで、通信負荷とデータ漏洩を低減し、IIoT環境におけるデータプライバシーとシステムの耐障害性を顕著に向上させる。

ABSTRACT

Industrial Internet of Things (IIoT) lays a new paradigm for the concept of Industry 4.0 and paves an insight for new industrial era. Nowadays smart machines and smart factories use machine learning/deep learning based models for incurring intelligence. However, storing and communicating the data to the cloud and end device leads to issues in preserving privacy. In order to address this issue, federated learning (FL) technology is implemented in IIoT by the researchers nowadays to provide safe, accurate, robust and unbiased models. Integrating FL in IIoT ensures that no local sensitive data is exchanged, as the distribution of learning models over the edge devices has become more common with FL. Therefore, only the encrypted notifications and parameters are communicated to the central server. In this paper, we provide a thorough overview on integrating FL with IIoT in terms of privacy, resource and data management. The survey starts by articulating IIoT characteristics and fundamentals of distributive and FL. The motivation behind integrating IIoT and FL for achieving data privacy preservation and on-device learning are summarized. Then we discuss the potential of using machine learning, deep learning and blockchain techniques for FL in secure IIoT. Further we analyze and summarize the ways to handle the heterogeneous and huge data. Comprehensive background on data and resource management are then presented, followed by applications of IIoT with FL in healthcare and automobile industry. Finally, we shed light on challenges, some possible solutions and potential directions for future research.

研究の動機と目的

• 中央サーバーに生データを送信せずに、デバイス内でのモデル学習を可能にすることで、IIoTにおけるデータプライバシー懸念に対処すること。
• データの非独立同分布性、リソース制約、セキュリティ脅威を含む、FLとIIoTの統合における課題を分析すること。
• ブロックチェーン、微分プライバシー、セキュアアグリゲーションなどの先進技術を活用し、FLベースのIIoTシステムにおける信頼性とセキュリティを強化すること。
• 医療や自動車産業などの重要なIIoT分野におけるFLの応用を評価し、リアルタイムでプライバシーに配慮した意思決定を可能にすること。
• スケーラブルで効率的かつ安全なFLの工業的エッジ環境への展開に向けた、未解決の課題を特定し、今後の研究方向性を提案すること。

提案手法

• IIoTエッジデバイスでローカルデータを用いてローカルモデルを学習し、中央サーバーに送信するのは生データではなくモデルパラメータのみであるFLフレームワークを提案する。
• モデル更新の推論攻撃やユーザー層レベルのプライバシー保護のため、微分プライバシー（DP）とセキュアアグリゲーション技術を統合する。
• モデルアグリゲーションとクライアント貢献の追跡における透明性、不変性、責任の追及を実現するため、ブロックチェーンベースのアーキテクチャを採用する。
• 計算コストとエネルギー消費を低減するため、エッジデバイスに最適化された軽量な機械学習モデル（例：LSTM、DNN）を活用する。
• リソース割り当ての動的管理と異種IIoTネットワークにおけるモデル収束の向上を図るため、深層強化学習（DRL）とマルチエージェントシステムを適用する。
• クライントのデータ汚染およびモデル改ざん攻撃を検出するため、マーチルツリーに基づくオンチェーン検証メカニズムを提案する。

実験結果

リサーチクエスチョン

• RQ1 フェデレーテッドラーニングをIIoTシステムに効果的に統合する方法は何か？ これにより、データプライバシーを保ちながらモデルの正確性を維持できるか？
• RQ2 FL対応IIoT環境における異種データと限られたリソースの管理における主な課題は何か？
• RQ3 データ汚染攻撃やモデル逆転攻撃などのセキュリティ脅威は、FLベースのIIoTシステムでどのように軽減できるか？
• RQ4 ブロックチェーンと暗号技術は、フェデレーテッドIIoT学習フレームワークにおける信頼性と整合性をどのように向上させるか？
• RQ5 FLの最も有望な応用分野は何か？ また、スケーラブルで安全な展開に向けた今後の研究方向性は何か？

主な発見

• FLは、生データの送信を避け、モデル更新のみを送信することで、IIoTにおける通信コストとエネルギー消費を顕著に低減する。
• FLとブロックチェーンの統合により、システムの透明性が向上し、クライント貢献とモデル整合性のオンチェーン検証が可能になる。
• 微分プライバシーとセキュアアグリゲーション技術は、モデルアグリゲーション中における推論攻撃からのユーザーのデータ保護に効果的である。
• 敵対的学習損失関数を備えた提案されたフェデレーテッド防御システムにより、IIoTで使用される深層ニューラルネットワークの敵対的攻撃に対する耐性が向上する。
• 医療や自動車産業における応用事例は、FLが高精度なモデルを用いてリアルタイムでプライバシーに配慮した意思決定を可能にすることを示している。
• 既存のアーキテクチャは、短パケット通信や低遅延要件に対応する点で制限を受けており、6G統合型FL最適化IIoTシステムの開発が急務であることが示唆されている。