[論文レビュー] TenSEAL: A Library for Encrypted Tensor Operations Using Homomorphic Encryption

Ayoub Benaissa, Bilal Retiat+2 more|arXiv (Cornell University)|Apr 7, 2021

Cryptography and Data Security被引用数 83

ひとこと要約

TenSEAL は CKKS 同型加法を用いた暗号化テンソル計算を提供するオープンソースライブラリで、暗号化データ上のML推論を可能にし、PyTorch/TensorFlow との容易な統合を実現します。MNISTの CNN を暗号化推論で1秒未満、通信が0.5 MB未満で示します。

ABSTRACT

Machine learning algorithms have achieved remarkable results and are widely applied in a variety of domains. These algorithms often rely on sensitive and private data such as medical and financial records. Therefore, it is vital to draw further attention regarding privacy threats and corresponding defensive techniques applied to machine learning models. In this paper, we present TenSEAL, an open-source library for Privacy-Preserving Machine Learning using Homomorphic Encryption that can be easily integrated within popular machine learning frameworks. We benchmark our implementation using MNIST and show that an encrypted convolutional neural network can be evaluated in less than a second, using less than half a megabyte of communication.

研究の動機と目的

• MLaaS シナリオで入力と出力が暗号化されたままとなるプライバシー保護機械学習を促進する。
• 人気のあるMLフレームワークのテンソルを暗号化テンソルにマッピングする柔軟なライブラリを提供する。
• 低い通信オーバーヘッドで実用的な暗号化NN評価を実証する。
• Microsoft SEAL を介して CKKS を用いた暗号化データ上のテンソル演算と CNN のプリミティブを有効化する。

提案手法

• MLフレームワークを同型暗号化へ橋渡しするオープンソースの TenSEAL ライブラリを構築する。
• 実装を CKKS に基づき、PlainTensor と EncryptedTensor の抽象を公開する。
• Tensor 演算（add, sub, mul, dot_product, matmul, polyval）と特殊なカーネル（conv2d の im2col など）を実装する。
• CKKSのバッチ処理を活用して、暗号文の数と計算深度を最小化するようにテンソルを効率的にエンコードする。
• 画像を単一の ciphertext にエンコードして im2col とバッチドドット積により畳み込みを実行することで、暗号化CNN推論を実証する。

実験結果

リサーチクエスチョン

• RQ1 CKKS を介した暗号化テンソル演算は、実用的な CNN 推論を許容的な待機時間と通信オーバーヘッドでサポートできるか。
• RQ2 TenSEAL はテンソルをエンコード・操作して、乗法的深さと ciphertext 数を最小化しつつ精度を維持するにはどうするべきか。
• RQ3 代表的なクラウドハードウェア上での暗号化 MNIST 推論のパフォーマンス特性(time, bandwidth) はどうなるか。

主な発見

• 暗号化データ上の MNIST 用 CNN は、暗号化データで 97.4% の精度を達成し、プレーンテキストでは 97.7% に相当。
• 暗号化評価の所要時間は、8コア AWS c4.2xlarge で前方推論全体が約 1.46 秒、16コア AWS c4.4xlarge で約 0.89 秒。
• 暗号化推論の通信量は入力と出力で約 427 KB。
• 画像を単一の ciphertext にエンコードして im2col 型の畳み込みを行うことで、回転を畳み込みごとに log2(N) 回に削減。
• TenSEAL は、CKKS を用いたテンソル演算が適切なパラメータ選択（例: 8192 modulus degree, 200-bit coeff modulus）で ML タスクに実用的であることを示している。
• このアプローチはフロントエンドとの統合の簡便さと並列性を強調する一方、CKKS の乗法深さと非線形活性化の制限を認識している。