[论文解读] A Federated Learning Approach for Mobile Packet Classification

Evita Bakopoulou, Bálint Tillman+1 more|arXiv (Cornell University)|Jul 30, 2019

Internet Traffic Analysis and Secure E-voting参考文献 67被引用 25

一句话总结

本文提出了一种用于移动数据包分类的联邦学习框架，通过仅共享模型参数而非原始数据包信息来训练全局模型，从而实现隐私保护。该方法在检测PII泄露和广告请求方面取得了高达0.95的F1分数，同时显著降低了移动设备上的通信与计算开销。

ABSTRACT

In order to improve mobile data transparency, a number of network-based approaches have been proposed to inspect packets generated by mobile devices and detect personally identifiable information (PII), ad requests, or other activities. State-of-the-art approaches train classifiers based on features extracted from HTTP packets. So far, these classifiers have only been trained in a centralized way, where mobile users label and upload their packet logs to a central server, which then trains a global classifier and shares it with the users to apply on their devices. However, packet logs used as training data may contain sensitive information that users may not want to share/upload. In this paper, we apply, for the first time, a Federated Learning approach to mobile packet classification, which allows mobile devices to collaborate and train a global model, without sharing raw training data. Methodological challenges we address in this context include: model and feature selection, and tuning the Federated Learning parameters. We apply our framework to two different packet classification tasks (i.e., to predict PII exposure or ad requests in HTTP packets) and we demonstrate its effectiveness in terms of classification performance, communication and computation cost, using three real-world datasets.

研究动机与目标

• 通过消除对包含敏感信息的原始数据包日志的共享，解决移动数据包分类中的隐私问题。
• 在不集中用户数据的前提下，实现在移动设备间的协作式模型训练，以保护用户隐私。
• 开发一种轻量级、高效的框架，适用于移动设备部署，通信与计算开销极低。
• 通过真实世界数据集和联邦学习方法，证明其在分类PII泄露与广告请求方面的有效性。
• 提出基于HTTP键的简化特征空间，以在训练过程中减少敏感信息的暴露。

提出的方法

• 应用联邦学习在移动设备上训练全局分类器，仅将模型参数（而非原始数据）共享给中心服务器。
• 使用仅包含来自URI、Cookie字段、自定义头部和文件请求存在性等HTTP键的特征空间，以减少隐私泄露。
• 采用随机梯度下降（SGD）训练支持向量机（SVM）模型，并与决策树进行性能对比评估。
• 从SVM向决策树进行知识迁移，以提升模型可解释性，同时保持较高的F1分数。
• 优化联邦学习超参数（如通信轮数、学习率），以在收敛性与效率之间取得平衡。
• 可选地集成安全聚合与差分隐私机制，以进一步保护模型更新。

实验结果

研究问题

• RQ1 联邦学习能否在保护用户隐私的前提下，有效应用于移动数据包分类？
• RQ2 在PII与广告请求检测的F1分数方面，联邦学习相较于集中式与本地训练的性能如何？
• RQ3 何种特征表示可在保持分类准确率的同时，最小化HTTP数据包分析中的隐私泄露？
• RQ4 从SVM向决策树的知识迁移是否能在不牺牲性能的前提下提升模型可解释性？
• RQ5 在真实世界数据包追踪的移动环境中，联邦学习的通信与计算开销如何？

主要发现

• 联邦学习方法在PII泄露检测中实现了0.95的F1分数，广告请求检测性能与集中式模型相当。
• 基于HTTP键的特征空间通过排除PII等敏感值，显著降低了隐私风险。
• 从SVM向决策树的知识迁移在保持F1分数（0.94 vs. 0.95）的同时，实现了在移动设备上的高效部署。
• 联邦框架在极低通信与计算开销下实现高性能，适用于移动设备部署。
• 该方法优于本地训练，且与集中式训练性能相当，提供了强有力的隐私保障。
• 该框架可扩展至其他数据包分类任务（如指纹识别），前提是具备标注的数据包追踪。