[論文レビュー] HEMET: A Homomorphic-Encryption-Friendly Privacy-Preserving Mobile Neural Network Architecture

Qian Lou, Lei Jiang|arXiv (Cornell University)|May 31, 2021

Cryptography and Data Security被引用数 13

ひとこと要約

HEMETは、プライバシー保護型ニューラルネットワーク（PPNN）における推論遅延を低減し、精度を向上させる、同型暗号（HE）に優しいモバイルニューラルネットワークアーキテクチャを提案する。グリーディーな探索アルゴリズムを用いてモバイルブロックを効率的な畳み込み層に置き換え、係数マージを適用してリスケーリング操作を削減することで、最先端のPPNNと比較して59.3–61.2%の遅延低減と0.4–0.5%の精度向上を達成した。

ABSTRACT

Recently Homomorphic Encryption (HE) is used to implement Privacy-Preserving Neural Networks (PPNNs) that perform inferences directly on encrypted data without decryption. Prior PPNNs adopt mobile network architectures such as SqueezeNet for smaller computing overhead, but we find naïvely using mobile network architectures for a PPNN does not necessarily achieve shorter inference latency. Despite having less parameters, a mobile network architecture typically introduces more layers and increases the HE multiplicative depth of a PPNN, thereby prolonging its inference latency. In this paper, we propose a extbf{HE}-friendly privacy-preserving extbf{M}obile neural n extbf{ET}work architecture, extbf{HEMET}. Experimental results show that, compared to state-of-the-art (SOTA) PPNNs, HEMET reduces the inference latency by $59.3\%\sim 61.2\%$, and improves the inference accuracy by $0.4 \% \sim 0.5\%$.

研究の動機と目的

• エンドツーエンド暗号化された推論に同型暗号（HE）を用いるプライバシー保護型ニューラルネットワーク（PPNN）における高い推論遅延を解消すること。
• モバイルニューラルネットワークアーキテクチャをPPNNに直接適用すると、パrameter数が少ないにもかかわらず乗算深度が増加し、結果として遅延が悪化する可能性があることを特定すること。
• 精度を損なわずにHE演算回数と乗算深度を最小限に抑えるHEに優しいモバイルニューラルネットワークアーキテクチャを設計すること。
• 各レイヤーごとに標準畳み込み層とモバイルモジュールのうち最適なレイヤー型を選択するグリーディーなアーキテクチャ探索アルゴリズムを開発し、遅延を低減すること。
• マスク、活性化関数、バッチ正則化の係数を統合する係数マージを導入し、リスケーリング操作と遅延を削減すること。

提案手法

• 推論遅延を最小限に抑えるために、各レイヤーで標準畳み込み層かモバイルモジュールかを評価するグリーディーな、レイヤー単位のアーキテクチャ探索アルゴリズムを提案する。
• 各レイヤーのマスク、近似ReLU係数、バッチ正則化係数を1つの係数集合に統合する係数マージを導入し、リスケーリング操作を削減する。
• ノイズ管理と暗号化テンソル上の近似算術をサポートするため、RNS分解を用いたCKKS同型暗号方式を採用する。
• 相互作用を必要としない完全同型計算を可能にするために、ReLU活性化関数に多項式近似（2次）を適用し、非相互作用型PPNNを実現する。
• SqueezeNetおよびInceptionNetのバックボーン上で探索アルゴリズムを評価し、特定のモバイルブロックを標準畳み込み層に置き換えることで、深度と遅延を低減する。
• アーキテクチャ探索の後続段階で係数マージを適用し、高コストなリスケーリング操作の数をさらに削減する。

実験結果

リサーチクエスチョン

• RQ1 パrameter数が少ないにもかかわらず、PPNNにモバイルニューラルネットワークアーキテクチャを素朴に適用しても、推論遅延が必ずしも低減するわけではないか？
• RQ2 グリーディーなレイヤー単位のアーキテクチャ探索アルゴリズムは、HE推論遅延を最小限に抑える最適なレイヤー型（畳み込み層対モバイルモジュール）を特定できるか？
• RQ3 係数マージにより、精度に影響を与えることなく、HEベースのPPNNにおけるリスケーリング操作の数をどの程度削減できるか？
• RQ4 アーキテクチャ探索と係数マージを組み合わせることで、PPNNにおける遅延低減と精度向上はどの程度達成できるか？
• RQ5 提案されたHEMETアーキテクチャは、CIFAR-10やMNISTなどの標準ベンチマークで、最先端のPPNNを上回る遅延と精度を達成できるか？

主な発見

• HEMETは、SqueezeNetおよびInceptionNetをベースにした最先端のPPNNと比較して、推論遅延を59.3–61.2%低減した。
• 計算コストを削減したにもかかわらず、既存のPPNNと比較して推論精度を0.4–0.5%向上させた。
• SqueezeNetに基づくOurs-F34アーキテクチャは、CIFAR-10で43.8秒の推論遅延を達成し、元のSqueezeNet比で40.5%の低減を実現した。
• 係数マージにより、Ours-F34ではリスケーリング操作が2回削減され、Ours-I789では4回削減され、それぞれ20%および37%の遅延低減に寄与した。
• より多くのモバイルブロックを畳み込み層に置き換えても、必ずしも遅延が低減するわけではないことから、深度と効率性のトレードオフが存在することが示された。
• 最も優れた性能を示したアーキテクチャ、Ours-I789-Merge（InceptionNetベース）は、EVAコンパイル済みInceptionNetと比較して61.2%の遅延低減と0.5%の精度向上を達成した。