[論文レビュー] Privacy-Preserving and Trustworthy Deep Learning for Medical Imaging

Kiarash Sedghighadikolaei, Attila A. Yavuz|arXiv (Cornell University)|Jun 29, 2024

Artificial Intelligence in Healthcare and EducationMedicine被引用数 3

ひとこと要約

本論文は、医療画像におけるプライバシーと信頼性を確保するため、プライバシー強化技術（PETs）をディープレディオミクスに統合するための体系的フレームワークを提案する。PETsを分類し、ハイブリッドPET構築法を導入し、ディープレディオミクスパイプライン全体における統合のための分類法を提示。技術的洞察として、課題と今後の研究方向性を提示。

ABSTRACT

The shift towards efficient and automated data analysis through Machine Learning (ML) has notably impacted healthcare systems, particularly Radiomics. Radiomics leverages ML to analyze medical images accurately and efficiently for precision medicine. Current methods rely on Deep Learning (DL) to improve performance and accuracy (Deep Radiomics). Given the sensitivity of medical images, ensuring privacy throughout the Deep Radiomics pipeline-from data generation and collection to model training and inference-is essential, especially when outsourced. Thus, Privacy-Enhancing Technologies (PETs) are crucial tools for Deep Radiomics. Previous studies and systematization efforts have either broadly overviewed PETs and their applications or mainly focused on subsets of PETs for ML algorithms. In Deep Radiomics, where efficiency, accuracy, and privacy are crucial, many PETs, while theoretically applicable, may not be practical without specialized optimizations or hybrid designs. Additionally, not all DL models are suitable for Radiomics. Consequently, there is a need for specialized studies that investigate and systematize the effective and practical integration of PETs into the Deep Radiomics pipeline. This work addresses this research gap by (1) classifying existing PETs, presenting practical hybrid PETS constructions, and a taxonomy illustrating their potential integration with the Deep Radiomics pipeline, with comparative analyses detailing assumptions, architectural suitability, and security, (2) Offering technical insights, describing potential challenges and means of combining PETs into the Deep Radiomics pipeline, including integration strategies, subtilities, and potential challenges, (3) Proposing potential research directions, identifying challenges, and suggesting solutions to enhance the PETs in Deep Radiomics.

研究の動機と目的

• ディープレディオミクスにおけるプライバシー強化技術（PETs）の実用的統合に関する専門的・特化された研究の不足に対処する。
• 既存のPETsを体系化し、ディープレディオミクスパイプラインに特化したハイブリッド構築法を提案する。
• 仮定、アーキテクチャの適合性、セキュリティ特性に基づいてPETsの比較分析を提供する。
• PETsを医療画像ワークフローに統合する際の課題と統合戦略に関する技術的洞察を提供する。
• PETsの実用性を高めるための、未解決の課題と今後の研究方向性を特定する。

提案手法

• ディープレディオミクスに関連する既存のPETs（同型暗号、安全なマルチパーティ計算、微分プライバシーなど）を分類・分類する。
• 複数のプライバシー技術を組み合わせた実用的ハイブリッドPET構築法を提案し、効率性とセキュリティの両立を図る。
• ディープレディオミクスパイプラインの各段階（データ収集、モデル学習、推論、展開）にPETsをマッピングする分類法を開発する。
• 各PETタイプがパイプラインの異なる段階において、アーキテクチャの適合性、脅威モデルの仮定、セキュリティ保証の観点から分析する。
• 効率的かつプライバシー保護型の学習を実現するため、畳み込みニューラルネットワーク（CNNs）と確率的勾配降下法（SGD）にPETsを統合する。
• 微分プライバシー（DP）を勾配、入力、ラベルの各レベルに適用する可能性を評価し、特にフェデレーテッドラーニングおよび集中型環境での適用を検討する。

Figure 1 : Taxonomy, Pros, and Cons of Essential PETs with their Prominent Hybrid Compositions for Deep Radiomics

実験結果

リサーチクエスチョン

• RQ1 ディープレディオミクスパイプラインの異なる段階に最も適したPETsは何か。また、それらを効果的に組み合わせる方法は何か。
• RQ2 ハイブリッドPETアーキテクチャは、ディープレディオミクスにおけるプライバシー、精度、計算効率のバランスをどのように向上させられるか。
• RQ3 非凸なディープラーニングモデル（例：CNN）における微分プライバシー（DP）の適用に際しての主な課題は何か。
• RQ4 フェデレーテッドラーニングおよび集中型学習にPETsを統合することで、メンバーインフィアレンス攻撃（MIA）やモデル抽出攻撃（MEA）に対する防御をどのように強化できるか。
• RQ5 信頼性がありプライバシー保護型のディープラーニングをレディオミクスに展開するにあたり、重要な未解決課題と今後の研究方向性は何か。

主な発見

• SGDにおける勾配への微分プライバシー（DP）の適用は、メンバーインフィアレンス攻撃（MIA）およびモデル抽出攻撃（MEA）の成功率を顕著に低下させる。
• 集中型DP（CDP）とローカルDP（LDP）は、プライバシーと精度のトレードオフにおいて異なる特性を示す。CDPは中央集約者が信頼できる場合に、より効果的である。
• MPCとDPを組み合わせたハイブリッドPET構築法は、ノイズ蓄積の問題を緩和しつつ、セキュリティを強化できる。
• 入力データやモデル出力へのDP適用は、非凸モデルでは勾配レベルのDPに比べて効果が低い。これは、閉形式の感度解析が得られないためである。
• 目的関数の摂動はPPMLにおいて有望であるが、CNNの損失関数が非凸的であるため、ディープレディオミクスでは依然として実装が困難である。
• PETsをディープレディオミクスパイプラインに統合するには、プライバシー、モデル精度、計算オーバーヘッドのバランスを考慮した洗練されたアーキテクチャ設計が必要である。

Figure 2 : Integration of PETs with Deep Radiomics Pipeline.