[论文解读] CryptoGCN: Fast and Scalable Homomorphically Encrypted Graph Convolutional Network Inference

Ran Ran, Nuo Xu+4 more|arXiv (Cornell University)|Sep 24, 2022

Privacy-Preserving Technologies in Data被引用 6

一句话总结

CryptoGCN 是一种用于隐私保护图卷积网络（GCN）推理的快速且可扩展的同态加密框架，通过邻接矩阵感知（AMA）数据格式和稀疏性感知优化，将同态操作减少 77.4%，在 NTU-XVIEW 数据集上仅损失 1–1.5% 准确率的情况下，实现高达 3.10× 的延迟加速。

ABSTRACT

Recently cloud-based graph convolutional network (GCN) has demonstrated great success and potential in many privacy-sensitive applications such as personal healthcare and financial systems. Despite its high inference accuracy and performance on cloud, maintaining data privacy in GCN inference, which is of paramount importance to these practical applications, remains largely unexplored. In this paper, we take an initial attempt towards this and develop $ extit{CryptoGCN}$--a homomorphic encryption (HE) based GCN inference framework. A key to the success of our approach is to reduce the tremendous computational overhead for HE operations, which can be orders of magnitude higher than its counterparts in the plaintext space. To this end, we develop an approach that can effectively take advantage of the sparsity of matrix operations in GCN inference to significantly reduce the computational overhead. Specifically, we propose a novel AMA data formatting method and associated spatial convolution methods, which can exploit the complex graph structure and perform efficient matrix-matrix multiplication in HE computation and thus greatly reduce the HE operations. We also develop a co-optimization framework that can explore the trade offs among the accuracy, security level, and computational overhead by judicious pruning and polynomial approximation of activation module in GCNs. Based on the NTU-XVIEW skeleton joint dataset, i.e., the largest dataset evaluated homomorphically by far as we are aware of, our experimental results demonstrate that $ extit{CryptoGCN}$ outperforms state-of-the-art solutions in terms of the latency and number of homomorphic operations, i.e., achieving as much as a 3.10$ imes$ speedup on latency and reduces the total Homomorphic Operation Count by 77.4\% with a small accuracy loss of 1-1.5$\%$.

研究动机与目标

• 解决基于同态加密（HE）的 GCN 推理中因图卷积中的矩阵乘法导致的高计算开销这一关键挑战。
• 克服现有 HE 优化框架仅针对 CNN 优化但对 GCN 效果不佳的问题，因其计算模式具有独特性。
• 在保持可接受的准确率和安全级别前提下，减少 GCN 推理中的同态操作（HOC）数量和延迟。
• 通过 HE 实现大规模隐私敏感图数据（如人体动作识别数据集）的私有推理，且不损害性能。
• 通过模型剪枝和激活模块中的多项式逼近，优化安全、准确率与计算成本之间的权衡。

提出的方法

• 提出一种新颖的邻接矩阵感知（AMA）数据格式技术，重新组织图特征图以利用 GCN 矩阵运算中的稀疏性，最小化同态操作。
• 设计一种与图结构对齐的模式化稀疏矩阵划分策略，以减少矩阵-矩阵乘法过程中的冗余 HE 操作。
• 通过 CKKS 同态加密实现密文打包，以最大化槽位利用率并提升小批量处理中的并行性。
• 实现一种联合优化框架，通过剪枝激活层并用低次多项式逼近非线性函数，平衡准确率、安全级别与计算成本。
• 利用时空 GCN（如 ST-GCN）的固有稀疏性，避免在内层循环中进行不必要的同态乘法和加法操作。
• 采用批量加密技术，将多个样本打包为单个密文进行处理，提升并行性，并随批量大小增加而降低每样本延迟。

实验结果

研究问题

• RQ1 尽管 HE 操作成本高昂，如何显著降低 GCN 推理中同态加密的计算开销？
• RQ2 在 GCN 层中，邻接矩阵和特征图的稀疏性能在多大程度上被利用以最小化同态操作？
• RQ3 与标准行优先格式相比，自定义的 AMA 数据格式是否能在 HE 操作数量和推理延迟方面表现更优？
• RQ4 在优化 GCN 架构以支持 HE 推理时，准确率、安全级别与计算成本之间的权衡关系如何？
• RQ5 所提出的框架能否在大规模 GCN 推理（如 NTU-XVIEW 数据集）中实现较之前工作低数个数量级的 HE 操作数量？

主要发现

• 与 CHET 和 Fast-HEAR 等最先进的 HE 基框架相比，CryptoGCN 在 64-STGCN-3 模型上将总同态操作数（HOC）减少了 77.4%。
• 当批量大小从 1 增加到 16 时，框架在平均延迟上实现了最高 3.10× 的加速，展现出强大的可扩展性。
• 在批量大小为 16 时，CryptoGCN 的平均延迟为 908.45 秒，而行优先格式为 45,179.33 秒，延迟降低 3.10 倍。
• AMA 格式通过消除冗余内层循环操作，在多通道卷积中将 PMult 和 Add 操作减少了 52.5%–66.2%。
• 剪枝一个激活层并使用多项式逼近，使 CMult 操作减少 40%–50%，进一步降低计算成本。
• 在 NTU-XVIEW 数据集（迄今同态加密处理的最大规模）上，CryptoGCN 实现了仅 1–1.5% 准确率损失的私有推理，证明了其实际可行性。