[论文解读] Training with the Invisibles: Obfuscating Images to Share Safely for Learning Visual Recognition Models

Taehoon Kim, Dongmin Kang+2 more|arXiv (Cornell University)|Jan 1, 2019

Face recognition and analysis参考文献 38被引用 11

一句话总结

本文提出了一种图像混淆方法，使人类无法识别隐私细节，同时保留其在视觉识别模型训练中的实用性。在混淆数据上训练的模型在图像分类、属性分类和面部关键点检测任务中，性能与在原始图像上训练的模型相差不超过0.48%。

ABSTRACT

High-performance visual recognition systems generally require a large collection of labeled images to train. The expensive data curation can be an obstacle for improving recognition performance. Sharing more data allows training for better models. But personal and private information in the data prevent such sharing. To promote sharing visual data for learning a recognition model, we propose to obfuscate the images so that humans are not able to recognize their detailed contents, while machines can still utilize them to train new models. We validate our approach by comprehensive experiments on three challenging visual recognition tasks; image classification, attribute classification, and facial landmark detection on several datasets including SVHN, CIFAR10, Pascal VOC 2012, CelebA, and MTFL. Our method successfully obfuscates the images from humans recognition, but a machine model trained with them performs within about 1% margin (up to 0.48%) of the performance of a model trained with the original, non-obfuscated data.

研究动机与目标

• 为解决因个人或敏感内容引发的隐私担忧而导致视觉数据集难以共享的问题。
• 在不暴露私人信息的前提下，实现安全的数据共享，用于训练高性能视觉识别模型。
• 开发一种在保留图像机器学习可用性的同时，使图像对人类不可识别的方法。
• 验证在混淆数据上训练的模型在多种视觉识别任务中是否能保持接近原始性能。

提出的方法

• 应用基于深度神经网络的混淆技术，修改图像特征以隐藏人类可识别的内容，同时保留对训练有用的语义信息。
• 使用可微分损失函数，确保混淆后的图像在特征空间中与原始输入保持语义相似性。
• 通过感知损失和对抗性损失的组合，端到端训练混淆模型，以最小化人类识别能力，同时保留模型实用性。
• 在混淆图像上训练视觉识别模型，以评估其性能与在原始数据上训练的模型的对比。
• 采用SVHN、CIFAR10、Pascal VOC 2012、CelebA和MTFL等标准基准数据集，测试在多样化任务中的泛化能力。
• 使用代理任务确保混淆过程不会降低模型学习相关特征的能力。

实验结果

研究问题

• RQ1 能否对图像进行混淆，使人类无法识别其中的隐私或敏感内容，同时仍可用于训练视觉识别模型？
• RQ2 在多种视觉识别任务中，基于混淆数据训练的模型性能与基于原始数据训练的模型相比如何？
• RQ3 该混淆方法在多大程度上保留了模型训练所必需的语义内容？
• RQ4 所提出的方法能否在多样化数据集和识别任务（包括图像分类、属性分类和面部关键点检测）中实现良好泛化？

主要发现

• 所提出的混淆方法成功阻止了人类对图像中细节内容的识别，同时保持了高水平的模型性能。
• 在混淆数据上训练的模型性能与在原始未混淆图像上训练的模型相比，准确率差距不超过0.48%。
• 该方法在图像分类、属性分类和面部关键点检测等多种任务中均表现出一致的性能。
• 该方法在SVHN、CIFAR10、Pascal VOC 2012、CelebA和MTFL等具有挑战性的数据集上保持了模型的实用性。
• 在所有评估任务中，基于原始数据和混淆数据训练的模型之间的性能差距极小，最大差距仅为0.48%。
• 混淆过程保留了足够的语义信息，使识别模型能够在不访问原始私有数据的情况下有效学习。