[论文解读] Lightweight and Unobtrusive Data Obfuscation at IoT Edge for Remote Inference

Dixing Xu, Mengyao Zheng+4 more|arXiv (Cornell University)|Dec 20, 2019

Privacy-Preserving Technologies in Data参考文献 32被引用 6

一句话总结

本文提出一种轻量级、无感的基于神经网络的数据混淆技术（ObfNet），应用于物联网边缘设备，以保护远程深度学习推理中原始推理数据的隐私。通过在传输前应用小型、不可逆的神经变换，该方法在保持后端推理准确性的前提下，有效隐藏了原始数据，同时在边缘设备上计算和能耗开销极低，对高速网络中的延迟影响可忽略不计。

ABSTRACT

Executing deep neural networks for inference on the server-class or cloud backend based on data generated at the edge of Internet of Things is desirable due primarily to the limited compute power of edge devices and the need to protect the confidentiality of the inference neural networks. However, such a remote inference scheme incurs concerns regarding the privacy of the inference data transmitted by the edge devices to the curious backend. This paper presents a lightweight and unobtrusive approach to obfuscate the inference data at the edge devices. It is lightweight in that the edge device only needs to execute a small-scale neural network; it is unobtrusive in that the edge device does not need to indicate whether obfuscation is applied. Extensive evaluation by three case studies of free spoken digit recognition, handwritten digit recognition, and American sign language recognition shows that our approach effectively protects the confidentiality of the raw forms of the inference data while effectively preserving the backend's inference accuracy.

研究动机与目标

• 解决边缘设备向云端后端传输原始数据时导致的隐私泄露问题。
• 在不损害后端模型推理准确性的前提下，保护原始推理数据的机密性。
• 设计一种对资源受限的物联网边缘设备计算和能耗开销极小的解决方案。
• 确保混淆机制无感，无需显式信令或对现有推理流水线进行任何修改。
• 在包括语音、手写体和手语识别在内的多种真实应用场景中评估该方法。

提出的方法

• 在物联网边缘部署一个小型神经网络 ObfNet，将原始推理数据在传输前转换为混淆形式。
• ObfNet 经过训练，以在后端推理模型（InfNet）下保持原始数据的分类预测结果，确保对大多数输入满足 I(O(x)) ≈ I(x)。
• 混淆过程为非线性且不可逆，使得好奇的后端难以恢复原始数据。
• 该方法无需信令或对后端推理流水线进行任何修改，确保无感性。
• 通过三个真实世界案例研究评估该方法：自由语音数字识别（FSD）、MNIST 手写数字识别和美国手语（ASL）识别。
• 性能评估指标包括推理准确率保持度、能耗、执行时间以及数据传输开销。

实验结果

研究问题

• RQ1 边缘设备上的轻量级神经混淆网络是否能在保护原始数据隐私的同时，保持远程深度学习推理的准确性？
• RQ2 所提出的混淆方法在边缘设备上的计算和能耗开销如何？
• RQ3 该混淆方法在多大程度上能防止后端对原始数据的重建或推理？
• RQ4 与边缘设备上的本地推理相比，远程推理的延迟和能效表现如何？
• RQ5 该方法能否在多种传感模态（如音频、图像和手势识别）上有效应用？

主要发现

• 所提出的 ObfNet 方法在所有三个案例研究（FSD、MNIST 和 ASL）中，尽管原始数据已被混淆，仍保持了后端推理的准确性。
• 在 Coral TPU 上，ObfNet 对 FSD、MNIST 和 ASL 每样本分别仅消耗 20 mJ、2 mJ 和 9.5 mJ 的能量，表明能耗开销极低。
• 在 Jetson 上每样本的推理时间为 14.318 ms（FSD）、8.351 ms（MNIST）和 100.467 ms（ASL），表明在高性能边缘硬件上延迟极低。
• 数据传输时间可忽略不计，15 Mbps 网络下小于 1 ms，当网络速度超过 15 Mbps 时，远程推理比本地推理更快。
• 在高带宽连接（如 4G > 100 Mbps）下，远程推理的总延迟更低，且能效优于边缘设备上的本地推理。
• 志愿者无法通过听觉区分混淆后的音频样本，视觉检查也未发现原始图像的有意义恢复，证实了强大的隐私保护能力。