[论文解读] Federated Learning for Coalition Operations

Dinesh Verma, Seraphin Calo+9 more|arXiv (Cornell University)|Oct 14, 2019

Privacy-Preserving Technologies in Data参考文献 16被引用 4

一句话总结

本文提出了一种用于联盟作战的联邦学习框架，可在分布式、异构的合作伙伴之间实现安全、隐私保护的模型训练，这些合作伙伴的数据质量、信任水平和模型架构各不相同。该框架引入基于策略的数据转换和模型融合技术，以对齐异构数据与模型，实现在不直接共享原始数据或模型的情况下有效协作，从而在带宽和安全约束下提升联盟范围内的AI性能。

ABSTRACT

Machine Learning in coalition settings requires combining insights available from data assets and knowledge repositories distributed across multiple coalition partners. In tactical environments, this requires sharing the assets, knowledge and models in a bandwidth-constrained environment, while staying in conformance with the privacy, security and other applicable policies for each coalition member. Federated Machine Learning provides an approach for such sharing. In its simplest version, federated machine learning could exchange training data available among the different coalition members, with each partner deciding which part of the training data from other partners to accept based on the quality and value of the offered data. In a more sophisticated version, coalition partners may exchange models learnt locally, which need to be transformed, accepted in entirety or in part based on the quality and value offered by each model, and fused together into an integrated model. In this paper, we examine the challenges present in creating federated learning solutions in coalition settings, and present the different flavors of federated learning that we have created as part of our research in the DAIS ITA. The challenges addressed include dealing with varying quality of data and models, determining the value offered by the data/model of each coalition partner, addressing the heterogeneity in data representation, labeling and AI model architecture selected by different coalition members, and handling the varying levels of trust present among members of the coalition. We also identify some open problems that remain to be addressed to create a viable solution for federated learning in coalition environments.

研究动机与目标

• 解决在数据和模型分布在具有不同政策、信任水平和数据格式的合作伙伴之间的联盟作战中训练有效AI模型的挑战。
• 在带宽有限且数据治理要求严格的战术环境中，实现安全且隐私保护的协作。
• 开发一种支持联盟环境中数据共享和模型共享联邦学习模式的框架。
• 创建生成式策略，将异构数据和模型表示转换为统一模式以实现融合。
• 实现考虑数据质量、模型价值和联盟合作伙伴间信任水平的模型融合。

提出的方法

• 该系统采用双服务架构：每个联盟合作伙伴部署一个训练服务，一个中心或指定合作伙伴部署一个融合服务以协调模型融合。
• 每个训练服务向融合服务器报告本地数据统计信息，后者生成转换策略以在合作伙伴之间标准化数据格式、特征名称和标签集。
• 策略包括数据类型转换（例如，.jpg 转 .png）、特征重命名和输出标签标准化，以实现跨合作伙伴的数据对齐。
• 训练服务在训练前应用这些策略，将本地数据转换为统一模式，使用由融合服务器发送的控制参数（如批量大小和训练迭代次数）。
• 本地训练完成后，模型被共享给融合服务器，后者使用基于信任加权或质量的聚合策略进行验证和融合。
• 该框架支持数据级和模型级联邦学习，策略根据数据质量和特定合作伙伴约束动态生成。

实验结果

研究问题

• RQ1 如何使具有异构数据格式和标注方案的联盟合作伙伴在安全且高效的前提下，结合其数据以进行联邦模型训练？
• RQ2 哪些机制可在信任水平各异的合作伙伴之间实现模型共享的同时确保隐私与安全？
• RQ3 如何评估并纳入数据与模型质量以改进融合过程的整体模型性能？
• RQ4 哪些策略生成技术可实现联盟合作伙伴之间异构数据表示的标准化？
• RQ5 如何将联邦学习扩展至训练阶段之外，以支持联盟作战中的联邦推理与行动协调？

主要发现

• 所提出的基于策略的数据转换框架成功将异构数据在联盟合作伙伴之间对齐为统一模式，实现在不共享原始数据的前提下有效训练模型。
• 通过模型共享实现的联邦学习在性能上可与集中式训练相媲美，即使合作伙伴的数据质量与表示形式各不相同。
• 该系统通过策略驱动的数据标准化，在带宽受限的战术环境中实现了可行性，显著减少了数据传输量。
• 信任度和数据质量度量被有效整合到融合过程中，提升了最终模型的鲁棒性与可靠性。
• 该框架支持数据级和模型级联邦学习，为联盟协作策略提供了灵活性。
• 该方法实现了在军事与盟友合作伙伴之间安全、隐私保护的AI协作，这些伙伴的数据治理与安全政策各不相同。