[論文レビュー] SoK: Privacy-preserving Deep Learning with Homomorphic Encryption

Robert Podschwadt, Daniel Takabi+1 more|arXiv (Cornell University)|Dec 23, 2021

Cryptography and Data Security被引用数 6

ひとこと要約

この論文は、同型暗号（HE）を用いたプライバシー保護型ディープラーニングの体系的サーベイを提示し、アーキテクチャの変更、活性化関数の適合、パフォーマンスのトレードオフを分析している。計算負荷とノイズ予算制約といった主な課題を特定し、HEベースのディープラーニングシステム間の比較を標準化するための評価ガイドラインを提案している。

ABSTRACT

Outsourced computation for neural networks allows users access to state of the art models without needing to invest in specialized hardware and know-how. The problem is that the users lose control over potentially privacy sensitive data. With homomorphic encryption (HE) computation can be performed on encrypted data without revealing its content. In this systematization of knowledge, we take an in-depth look at approaches that combine neural networks with HE for privacy preservation. We categorize the changes to neural network models and architectures to make them computable over HE and how these changes impact performance. We find numerous challenges to HE based privacy-preserving deep learning such as computational overhead, usability, and limitations posed by the encryption schemes.

研究の動機と目的

• 同型暗号（HE）とディープニューラルネットワークを組み合わせてプライバシー保護を実現する既存のアプローチを体系化し、分析すること。
• 暗号化されたデータ上で計算を可能にするためにニューラルネットワークに加えられたアーキテクチャ的変更を特定し、分類すること。
• 特に活性化関数とトレーニングパイプラインに特化したHE固有の適合が、パフォーマンスに与える影響を評価すること。
• メモリ使用量、精度、実行時間の指標に基づいて、HEベースのディープラーニングシステム間の比較を標準化するための評価基準を確立すること。
• 計算負荷、ノイズ管理、大規模データセットへのスケーラビリティといった、未解決の研究的課題を浮き彫りにすること。

提案手法

• HEベースのディープラーニングに関する18編の主要論文を、アーキテクチャ的、活性化関数的、トレーニングプロセス的適応の観点から分類する。
• HE方式（PHE、SHE、FHE）がニューラルネットワークの演算に与える制約、特に乗算の深さとノイズの蓄積に焦点を当てる。
• 多項式近似、ルックアップテーブル、トレーニング後置換といったHE互換性を持つ活性化関数を検討する。
• 暗号文パッケージング、モデルのプルーニング、活性化関数のグループ化といった、計算コストを低減する技術を調査する。
• メモリ使用量、暗号化データ上のモデル精度、実行時間効率といった指標を含む、標準化された評価フレームワークを提案する。
• GPUとFPGAを用いたハードウェアアクセラレーションの可能性を評価し、HEのパフォーマンスをディープラーニングワークロードで向上させる方法を検討する。

実験結果

リサーチクエスチョン

• RQ1 ディープニューラルネットワークを同型暗号と互換性を持たせるために、どのような主なアーキテクチャ的変更が必要か？
• RQ2 異なる活性化関数設計は、HEベースの推論およびトレーニングにおけるモデル精度とノイズ予算にどのように影響を与えるか？
• RQ3 HEベースのディープラーニングにおける主なパフォーマンスボトルネックは何か。また、システムレベルの最適化によってどのように緩和できるか？
• RQ4 既存の評価手法は、HEベースのディープラーニングシステム間の公平で再現可能な比較をどの程度可能にしているか？
• RQ5 ImageNetのような実世界のデータセットへのスケーリングにおいて、HEベースのディープラーニングの主な課題は何か？

主な発見

• 同型暗号は、データを復号せずに計算を可能にするため、プライバシー保護型の推論とトレーニングを実現できるが、顕著な計算負荷を伴う。
• 活性化関数は非線形的で有界でなく、単調でない導関数を持つため、HE方式におけるノイズ予算を急速に消費する主なボトルネックである。
• 活性化関数の多項式近似は、モデル性能を維持しつつHE演算と互換性を持つ代替手段として有効である。
• 暗号文パッケージングにより、メモリ使用量が1桁低減され、CIFAR-10のような大規模な推論が可能になり、ImageNetへのスケーリングも可能になる。
• モデルのプルーニングと活性化関数のグループ化技術により、精度の損失を最小限に抑えながら最大30％の高速化が達成可能であり、HE環境における最適化の可能性を示唆している。
• 特にメモリ使用量と暗号化データ上のパフォーマンスといった標準化された評価指標は、公平な比較に不可欠であるが、多くの既存の研究では報告が不足している。