[論文レビュー] Privacy-preserving medical image analysis

Alexander Ziller, Jonathan Passerat‐Palmbach+9 more|arXiv (Cornell University)|Dec 10, 2020

Privacy-Preserving Technologies in Data参考文献 17被引用数 7

ひとこと要約

本稿では、セキュアなフェデレーテッドラーニングおよびエンドツーエンド暗号化推論を用いた、プライバシー保護型医療画像解析のための無料でオープンソースのフレームワーク、PriMIAを提示する。本研究では、プライバシー保護型マルチパーティ計算および勾配ベースの逆方向攻撃に対する耐性を備えることで、患者のデータおよびモデルの整合性を保護しつつ、小児のチ胸レントゲン画像分類において人間の専門家を上回る分類性能を示した。

ABSTRACT

The utilisation of artificial intelligence in medicine and healthcare has led to successful clinical applications in several domains. The conflict between data usage and privacy protection requirements in such systems must be resolved for optimal results as well as ethical and legal compliance. This calls for innovative solutions such as privacy-preserving machine learning (PPML). We present PriMIA (Privacy-preserving Medical Image Analysis), a software framework designed for PPML in medical imaging. In a real-life case study we demonstrate significantly better classification performance of a securely aggregated federated learning model compared to human experts on unseen datasets. Furthermore, we show an inference-as-a-service scenario for end-to-end encrypted diagnosis, where neither the data nor the model are revealed. Lastly, we empirically evaluate the framework's security against a gradient-based model inversion attack and demonstrate that no usable information can be recovered from the model.

研究の動機と目的

• AI駆動診断における大規模な医療データ利用と患者のプライバシーの間の対立を解決すること。
• プライバシー保護型機械学習のための、安全でスケーラブルかつ臨床的に意味のあるフレームワークを構築すること。
• 生の患者データを共有せずに複数機関間でフェデレーテッドラーニングを実行することにより、倫理的・法的基準への適合を確保すること。
• エンドツーエンド暗号化推論サービスを提供し、データおよびモデルの機密性を保護すること。
• 勾配ベースのモデル逆方向攻撃に対するフレームワークのセキュリティを実証的に検証すること。

提案手法

• PySyft/PyGridを拡張し、コマンドラインインターフェースを備えた分散学習および推論を可能にする医療画像ワークロードをサポートする。
• フェデレーテッドノード間でのモデル更新の安全な集約を実現するため、セキュアマルチパーティ計算（SMPC）を実装する。
• ローカルデータセットのサイズに基づく重み付きフェデレーテッド平均化を適用し、過学習を防ぐためにローカルでの早期終了を可能にする。
• 関数秘密分散を用いてエンドツーエンド暗号化推論を実現し、データおよびモデルが平文で露出しないようにする。
• モデル一般化性能の向上を図るため、複数の施設間でデータセット統計（平均および標準偏差）の安全な集約を導入する。
• データ再構築攻撃、特に勾配ベースの逆方向攻撃に対する保護を実現するため、高度な暗号プロトコルを採用する。

実験結果

リサーチクエスチョン

• RQ1 プライバシー保護型フェデレーテッドラーニングフレームワークは、未知の小児チ胸レントゲン画像において、人間の専門家を上回る診断性能を達成できるか？
• RQ2 モデル逆方向攻撃（モデル勾配から入力データを再構築しようとする攻撃）に対して、このフレームワークはどの程度効果的に耐性を示すか？
• RQ3 フェデレーテッドラーニング環境におけるモデル更新のセキュリティ向上に、安全な集約がどの程度寄与するか？
• RQ4 臨床診断において、パフォーマンスに影響を与えることなく、エンドツーエンド暗号化推論を効率的に実装できるか？
• RQ5 さまざまなネットワーク状態下で、フレームワークの推論遅延は、最先端のセキュア推論プロトコルと比較してどの程度か？

主な発見

• 安全に集約されたフェデレーテッドラーニングモデルは、2つの独立したテストセットで人間の専門家を上回り、テストセット1ではマチューズ相関係数（MCC）が0.62、テストセット2では0.58を達成した。
• テストセット1では、クラス加重平均のAUCが0.85に達し、マクネマー検定で人間の読影医を有意に上回った（p < 0.05）。
• フレームワークは勾配ベースのモデル逆方向攻撃に対して強く耐性を示し、安全なモデルの平均二乗誤差（MSE）は3.22 ± 1.41、FIDは2651 ± 1293であり、非安全モデルおよびローカルに学習されたモデルと比較して有意に高い水準であった（ANOVAおよびt検定の両方でp < 0.001）。
• 10msのネットワーク遅延ではSecureNN比で平均35%、100msの遅延では47%の遅延低減が達成され、統計的に有意であった（p < 0.001）。
• 安全な集約メカニズムにより、モデル勾配から有用な患者データの回復が防止され、フレームワークのデータ漏洩に対する耐性が確認された。
• フレームワークは、生のデータやモデル重みを露出させることなく、実臨床環境下でモデルの学習と推論を成功させ、エンドツーエンドのプライバシー保証を果たした。