[论文解读] Federated Dynamic GNN with Secure Aggregation

Meng Jiang, Taeho Jung+2 more|arXiv (Cornell University)|Sep 15, 2020

Privacy-Preserving Technologies in Data参考文献 34被引用 24

一句话总结

本文提出 Feddy，一种联邦动态图神经网络，通过自监督轨迹预测，利用空间和时间图结构从多用户视频数据中学习物体表征。该方法通过联邦学习与安全聚合实现隐私保护的模型训练，即使中央服务器被攻破，模型更新仍保持机密，同时在真实世界监控数据集上表现出色。

ABSTRACT

Given video data from multiple personal devices or street cameras, can we exploit the structural and dynamic information to learn dynamic representation of objects for applications such as distributed surveillance, without storing data at a central server that leads to a violation of user privacy? In this work, we introduce Federated Dynamic Graph Neural Network (Feddy), a distributed and secured framework to learn the object representations from multi-user graph sequences: i) It aggregates structural information from nearby objects in the current graph as well as dynamic information from those in the previous graph. It uses a self-supervised loss of predicting the trajectories of objects. ii) It is trained in a federated learning manner. The centrally located server sends the model to user devices. Local models on the respective user devices learn and periodically send their learning to the central server without ever exposing the user's data to server. iii) Studies showed that the aggregated parameters could be inspected though decrypted when broadcast to clients for model synchronizing, after the server performed a weighted average. We design an appropriate aggregation mechanism of secure aggregation primitives that can protect the security and privacy in federated learning with scalability. Experiments on four video camera datasets (in four different scenes) as well as simulation demonstrate that Feddy achieves great effectiveness and security.

研究动机与目标

• 解决在不集中原始用户数据的前提下，从分布式视频数据中学习动态物体表征的挑战。
• 设计一种可扩展且隐私保护的框架，用于在监控系统中跨多个设备训练动态图神经网络。
• 通过在联邦学习中使用安全聚合原语，防止对模型更新的推理攻击。
• 利用轨迹预测作为预训练目标，实现自监督表征学习，消除对人工标注的依赖。
• 在时间序列图数据的联邦图神经网络训练中，平衡安全性、可扩展性与计算效率。

提出的方法

• 该模型采用动态图神经网络架构，聚合每帧内的空间关系以及连续帧间的时间关系。
• 采用基于预测未来物体位置（5秒后）的自监督损失函数，以在无标注情况下学习有意义的节点表征。
• 使用联邦学习训练模型：本地模型在用户设备上更新，仅共享模型参数（而非原始数据）至中央服务器。
• 通过密码学原语对模型更新应用安全聚合，确保服务器仅能获取聚合后的模型，无法推断个体贡献。
• 安全聚合机制包括密钥生成、使用随机值对模型更新进行掩码，以及服务器端聚合，所有设计均旨在防止推理攻击。
• 系统以每10个周期为周期进行同步，降低通信开销，同时保持强隐私保障。

实验结果

研究问题

• RQ1 能否在保护隐私的前提下，以联邦方式有效训练分布式视频数据上的动态图神经网络？
• RQ2 如何在无人工标注的情况下，有效捕捉视频序列中的空间与时间模式？
• RQ3 安全聚合在联邦图神经网络训练中在多大程度上可防止对模型更新的推理攻击？
• RQ4 在安全联邦图神经网络训练中，安全性、通信成本与计算开销之间的权衡如何？
• RQ5 所提出的框架在包含多样化视频数据的真实世界监控场景中表现如何？

主要发现

• Feddy 在四个真实世界视频摄像头数据集上表现优异，证明了通过自监督轨迹预测有效学习动态物体表征的能力。
• 安全聚合的使用可防止攻击者即使在中央服务器被攻破的情况下，也无法推断出个体训练数据，提供了可证明的隐私保障。
• 安全聚合的通信与计算开销虽不可忽略，但可接受，尤其考虑到聚合仅每10个周期执行一次。
• 安全聚合中的掩码阶段随模型维度呈二次增长，但由于执行频率低且开销可控，仍具可行性。
• 该框架在用户数量增加时表现出良好可扩展性，密钥生成与聚合成本呈线性增长，系统在大规模部署中仍具实用性。
• 实验表明，该模型即使在无人工标注数据的情况下，也能有效捕捉复杂时空模式，如车辆在路口减速、骑行人穿行车流等。