[論文レビュー] CHET: Compiler and Runtime for Homomorphic Evaluation of Tensor Programs

Roshan Dathathri, Olli Saarikivi+6 more|arXiv (Cornell University)|Oct 1, 2018

Cryptography and Data Security参考文献 18被引用数 9

ひとこと要約

CHET は、完全準同型暗号（FHE）による深層ニューラルネットワーク（DNN）推論ワークロードの効率的評価を可能にするコンパイラおよびランタイムシステムであり、同型命令セットアーキテクチャ（HISA）を導入することで実現されている。このシステムは、データレイアウト選択、回転鍵管理、カーネル結合といった重要な最適化を自動化し、標準的な CNN において手動最適化された実装を上回るパフォーマンスを達成している。

ABSTRACT

Fully Homomorphic Encryption (FHE) refers to a set of encryption schemes that allow computations to be applied directly on encrypted data without requiring a secret key. This enables novel application scenarios where a client can safely offload storage and computation to a third-party cloud provider without having to trust the software and the hardware vendors with the decryption keys. Recent advances in both FHE schemes and implementations have moved such applications from theoretical possibilities into the realm of practicalities. This paper proposes a compact and well-reasoned interface called the Homomorphic Instruction Set Architecture (HISA) for developing FHE applications. Just as the hardware ISA interface enabled hardware advances to proceed independent of software advances in the compiler and language runtimes, HISA decouples compiler optimizations and runtimes for supporting FHE applications from advancements in the underlying FHE schemes. This paper demonstrates the capabilities of HISA by building an end-to-end software stack for evaluating neural network models on encrypted data. Our stack includes an end-to-end compiler, runtime, and a set of optimizations. Our approach shows generated code, on a set of popular neural network architectures, is faster than hand-optimized implementations.

研究の動機と目的

• FHE プログラミングにおける高水準な抽象化の欠如に取り組む。現在のところ、低水準でエラーを起こしやすい手動チューニングが必須である。
• FHE スキームの進歩をコンパイラおよびランタイム開発から分離し、独立したイノベーションを可能にする。
• 暗号化されたデータ上で DNN 推論を安全かつ効率的にコンパイル・実行できるエンドツーエンドのシステムを構築する。
• データレイアウト選択や回転鍵管理といったパフォーマンスに影響を与える重要な最適化を自動化する。
• 自動コンパイルが DNN における手動最適化された FHE 実装を上回ることを示す。

提案手法

• FHE 操作を抽象化するコンactなインターフェースを特徴とする同型命令セットアーキテクチャ（HISA）の設計および仕様策定。
• HISA を用いて高水準な DNN モデルを最適化された FHE コードに変換するコンパイラの実装。
• メモリレイアウト管理、実行スケジューリング、FHE パrameter 管理を効率的に実行するランタイムシステム。
• HEAAN FHE スキームに特化したコストモデルを用いて、各モデルごとに最適なデータレイアウトを自動選択。
• ノイズ成長の低減とパフォーマンス向上を目的とした、カーネル結合および回転鍵最適化のためのコンパイラパス。
• 非多項式活性化関数（例：ReLU）のための多項式近似の統合により、FHE との互換性を実現。

実験結果

リサーチクエスチョン

• RQ1 HISA のような高水準な抽象化は、FHE スキームの進化とアプリケーションレベルのコンパイラおよびランタイム開発を効果的に分離できるか？
• RQ2 DNN における FHE 計算コストの最小化に向け、自動データレイアウト選択はどの程度効果的か？
• RQ3 カーネル結合や回転鍵管理といったコンパイラ最適化は、FHE パフォーマンスにどの程度の向上効果をもたらすか？
• RQ4 自動コンパイルは、DNN 推論における手動最適化された FHE 実装を上回ることができるか？
• RQ5 FHE 暗号化 DNN 推論における精度とノイズ管理は、システムがどのように処理しているか？

主な発見

• CHET が生成するコードは、代表的な DNN において手動最適化された実装を上回る高速なパフォーマンスを達成しており、自動最適化の有効性が裏付けられている。
• 回転鍵最適化パスにより、評価されたすべてのネットワークで顕著なパフォーマンス向上が得られ、図 9 に示される平均遅延の低減が観察された。
• HEAAN スキームに特化したコストモデルに基づく自動データレイアウト選択は、エラーを起こしやすくチューニングが困難な手動選択よりも優れたパフォーマンスを実現した。
• 本システムは、これまでにない深さの FHE 対応 CNN を正常にコンパイル・実行でき、完全準同型暗号下での複雑なモデル実行を可能にした。
• 活性化関数に多項式近似を用いることで、FHE との互換性を維持しながらも高いモデル精度を達成できた。