[論文レビュー] Get your Foes Fooled: Proximal Gradient Split Learning for Defense against Model Inversion Attacks on IoMT data

Sunder Ali Khowaja, Ik Hyun Lee+3 more|arXiv (Cornell University)|Jan 12, 2022

Adversarial Robustness in Machine Learning被引用数 6

ひとこと要約

本稿では、インテอร์ネット・オブ・メディカル・トゥイングス（IoMT）システムにおけるモデル逆転攻撃に対する防御機構として、Proximal Gradient Split Learning（PGSL）を提案する。近接勾配最適化と分割学習における意思決定レベルの統合を活用することで、PGSLは勾配に基づくデータ再構築を妨げるとともに、敵対的攻撃を受ける画像において認識精度を最大36.9%向上させる。これにより、モデル性能を損なうことなく、患者のデータプライバシーを効果的に保護する。

ABSTRACT

The past decade has seen a rapid adoption of Artificial Intelligence (AI), specifically the deep learning networks, in Internet of Medical Things (IoMT) ecosystem. However, it has been shown recently that the deep learning networks can be exploited by adversarial attacks that not only make IoMT vulnerable to the data theft but also to the manipulation of medical diagnosis. The existing studies consider adding noise to the raw IoMT data or model parameters which not only reduces the overall performance concerning medical inferences but also is ineffective to the likes of deep leakage from gradients method. In this work, we propose proximal gradient split learning (PSGL) method for defense against the model inversion attacks. The proposed method intentionally attacks the IoMT data when undergoing the deep neural network training process at client side. We propose the use of proximal gradient method to recover gradient maps and a decision-level fusion strategy to improve the recognition performance. Extensive analysis show that the PGSL not only provides effective defense mechanism against the model inversion attacks but also helps in improving the recognition performance on publicly available datasets. We report 14.0$\%$, 17.9$\%$, and 36.9$\%$ gains in accuracy over reconstructed and adversarial attacked images, respectively.

研究の動機と目的

• IoMTシステムにおける患者のデータプライバシーを脅かすモデル逆転攻撃の増加する脅威に対処すること。
• iDLG や DLG といった高度な攻撃に対して失敗するか、モデル性能を低下させる既存の防御手法の限界を克服すること。
• 医療画像分類において、データプライバシーを保護しつつ高い認識精度を維持できる、強固な防御機構を開発すること。
• 分割学習と近接勾配最適化を組み合わせることで、機密性の高い医療応用分野における安全でプライバシー保護型のディープラーニングを実現すること。

提案手法

• 提案されたPGSLフレームワークは、分割学習中に勾配マップを回復するために近接勾配法を用い、攻撃者が勾配から生のIoMTデータを再構築する能力を妨げる。
• 意思決定レベルの統合戦略により、複数のクライアントからの予測を統合することで、敵対的入力に対する認識性能と耐性を向上させる。
• モデルの有用性を損なわせることなく、攻撃者がモデル逆転を試みるのを混乱させるために、クライアント側で訓練プロセスを意図的に摂動させる。
• PGSLは、モデル重みを共同で訓練する一方で、生データをローカルデバイスに保持する分割学習アーキテクチャに統合され、データプライバシーを確保する。
• 訓練の安定化と敵対的条件下での一般化性能の向上を図るために、フレームワークは近接勾配最適化を用いて評価される。
• 異なる医療画像モodalitiesに対応するため、特定のデータセット（MIASおよびMNIST）に合わせてハイパーパrameterを調整する。

実験結果

リサーチクエスチョン

• RQ1 近接勾配分割学習は、認識精度を低下させることなく、IoMTデータに対するモデル逆転攻撃を効果的に防御できるか？
• RQ2 iDLG、DLG、FGSM といった最先端の攻撃と比較して、PGSLはデータ再構築の成功度とモデル性能の両面で優れているか？
• RQ3 PGSLにおける意思決定レベルの統合は、再構築済みまたは敵対的に摂動を加えられた画像における認識精度をどの程度向上させるか？
• RQ4 PGSLは、レントゲン画像、CTスキャン、電子的健康記録など、多様な医療データモダリティに拡張可能か？

主な発見

• MIASデータセットでは、PGSLが83.2%の認識精度を達成し、ベースライン攻撃からの再構築画像に対して14.0%の向上を示した。
• MNISTデータセットでは、PGSLが99.8%の精度に達し、iDLG攻撃手法に対して36.9%の向上を示した。
• この手法は、特にiDLGおよびDLG技術を効果的に阻止する勾配ベース再構築を妨げることで、モデル逆転攻撃の成功率を低下させた。
• PGSLは、FGSM や BIM といった敵対的摂動に対しても優れた耐性を示し、高い性能を維持した。
• 意思決定レベルの統合戦略は、特に高ノイズまたは再構築済みの状態下で認識性能を顕著に向上させた。
• このフレームワークはさまざまな医療画像モダリティに適応可能であり、メタバースやデジタルツインを含む仮想医療環境へも拡張可能である。