[論文レビュー] Secure Medical Image Analysis with CrypTFlow

Javier Alvarez-Valle, Pratik Bhatu+7 more|arXiv (Cornell University)|Dec 9, 2020

Medical Imaging Techniques and Applications参考文献 27被引用数 6

ひとこと要約

CrypTFlow は、1つのコマンドでTensorFlow推論コードを安全なマルチパーティ計算（MPC）プロトコルにコンパイルするシステムであり、プライバシー保護型医療画像解析を可能にする。Athos はモデルの精度を保持する固定小数点変換をサポートするコンパイラであり、Porthos は通信量を最大2桁低減する高性能な半悪意的3パーティMPCプロトコルである。これにより、計算負荷が高いため従来は不可能とされていた3D-UNetを用いた3次元医療画像セグメンテーションの安全な推論が実現された。

ABSTRACT

We present CRYPTFLOW, a system that converts TensorFlow inference code into Secure Multi-party Computation (MPC) protocols at the push of a button. To do this, we build two components. Our first component is an end-to-end compiler from TensorFlow to a variety of MPC protocols. The second component is an improved semi-honest 3-party protocol that provides significant speedups for inference. We empirically demonstrate the power of our system by showing the secure inference of real-world neural networks such as DENSENET121 for detection of lung diseases from chest X-ray images and 3D-UNet for segmentation in radiotherapy planning using CT images. In particular, this paper provides the first evaluation of secure segmentation of 3D images, a task that requires much more powerful models than classification and is the largest secure inference task run till date.

研究の動機と目的

• プライベートなデータを露呈せずに、大規模な深層ニューラルネットワーク（DNN）の医療画像分野における安全な推論を可能にすること。
• 暗号技術の専門知識が不要になるように、機械学習研究者によるMPCの採用を容易にすること。
• 従来、計算効率と通信ボトルネックのため実現不可能とされていた、3D-UNetのような複雑で現実世界の医療DNNにまで安全な推論をスケーリングすること。
• 実用的な医療現場への導入に適した、MPCプロトコルの最適化を通じて、安全な推論の効率性と正確性を高めること。

提案手法

• 2PCおよび3PCバックエンドをサポートするモジュラーなコンパイラであるAthosを用いて、TensorFlow推論コードを安全な計算プロトコルにコンパイルする。
• 精度とオーバーフローのリスクのバランスを取るために、スケールファクタを調整可能な64ビット整数表現を用いて浮動小数点演算を固定小数点算術に変換する。
• Porthos は、行列乗算および非線形演算（例：ReLU、MaxPool）の最適化を通じて、データの再配置と通信複雑度の低減を実現する半悪意的3パーティMPCプロトコルである。
• バーチャルトリプル生成の再構成により、畳み込み層の通信量を約2q²f²から約2m² + 2f² + q²リング要素に削減する。
• 3次元変換畳み込みを含む3次元演算をサポートし、ボリュメトリック医療画像セグメンテーションのための3D-UNetにおける安全な推論を可能にする。
• ONNX との統合により、PyTorch で作成されたモデルもサポートし、TensorFlow以外のモデルにも対応する。

実験結果

リサーチクエスチョン

• RQ1 大規模な医療DNNの安全な推論を、暗号技術の専門知識を最小限に抑えて実現できるシステムを構築できるか？
• RQ2 MPCにおける固定小数点変換が、医療画像分野のタスクにおいて浮動小数点モデルの精度を保持できるか？
• RQ3 既存の手法と比較して、新しいMPCプロトコルが大規模DNNの通信量と実行時間を顕著に削減できるか？
• RQ4 3D-UNetのような3次元医療画像セグメンテーションモデルに対して、暗号的に安全な推論が可能か？
• RQ5 NIH胸部X線および骨盤CTスキャンといった現実世界の医療データセットに対しても、許容可能な遅延を維持しながらスケーリング可能か？

主な発見

• CrypTFlow は、ResNet50 で5秒、DenseNet121 で35秒、3D-UNet で2分のコンパイル時間でTensorFlowモデルをMPCプロトコルにコンパイルできる。
• Athos を用いた固定小数点実装はモデルの精度を保持しており、ResNet50 ではトップ1精度が76.45％（浮動小数点時76.47％）を達成、DenseNet121 ではトップ1精度が74.33％を達成した。
• Porthos は、ImageNetスケールのモデルにおいて、SecureNN より通信量を1.2倍～1.5倍、実行時間を1.4倍～1.5倍低減した。
• 骨盤CTスキャンにおける3D-UNetの安全な推論は1時間57分、通信量557GBを要し、3次元画像セグメンテーションの安全な推論評価として初の試みである。
• 従来サポートされていなかった3次元変換畳み込みなど、セグメンテーションタスクに不可欠な演算をサポートした。
• 3D-UNet における1時間57分の遅延は、臨床ワークフローにおいては手動セグメンテーションが数日を要するため、実用的であり、実世界への導入が可能である。