[论文解读] Federated AI for building AI Solutions across Multiple Agencies

Dinesh Verma, Simon Julier+1 more|arXiv (Cornell University)|Sep 20, 2018

Privacy-Preserving Technologies in Data参考文献 5被引用 15

一句话总结

本文提出联邦人工智能作为解决方案，使政府机构能够在不共享敏感数据的情况下协作开发人工智能模型，通过在本地更新模型并仅交换模型参数的去中心化训练方式实现。该方法在严格的数据隐私法规下成功实现了跨机构的人工智能模型训练，实现了高性能的同时保护了数据主权。

ABSTRACT

The different sets of regulations existing for differ-ent agencies within the government make the task of creating AI enabled solutions in government dif-ficult. Regulatory restrictions inhibit sharing of da-ta across different agencies, which could be a significant impediment to training AI models. We discuss the challenges that exist in environments where data cannot be freely shared and assess tech-nologies which can be used to work around these challenges. We present results on building AI models using the concept of federated AI, which al-lows creation of models without moving the training data around.

研究动机与目标

• 解决因严格数据共享法规而受限的政府机构在开发人工智能解决方案时面临的挑战。
• 克服阻碍跨机构数据共享以用于人工智能训练的监管障碍。
• 开发一种可扩展的、保护隐私的框架，用于在多个机构之间协作训练人工智能模型。
• 证明在不集中敏感数据的情况下训练高效人工智能模型的可行性。
• 确保公共部门人工智能应用中符合数据治理和隐私法规。

提出的方法

• 实施联邦学习架构，使每个机构在其自身数据上本地训练模型，无需数据传输。
• 使用中央服务器聚合多个机构的模型更新，以优化全局模型。
• 采用安全聚合技术，保护传输过程中的模型更新。
• 设计系统以在严格的监管约束下运行，确保数据主权。
• 利用现有联邦学习框架并进行修改，以适应政府数据政策。
• 在具有真实数据访问限制的模拟多机构环境中验证该方法。

实验结果

研究问题

• RQ1 当由于监管限制无法共享数据时，如何有效跨政府机构训练人工智能模型？
• RQ2 何种技术架构可实现在不集中敏感数据的情况下协作训练模型？
• RQ3 联邦学习在确保数据隐私和合规性的同时，能在多大程度上保持模型性能？
• RQ4 在涉及多个公共部门机构的去中心化人工智能训练环境中，如何维持信任与安全？
• RQ5 联邦人工智能在政府环境中的实际部署面临哪些挑战？

主要发现

• 联邦人工智能可在不传输原始数据的情况下实现跨机构的有效人工智能模型训练，保护了数据隐私。
• 该方法成功符合禁止跨机构数据共享的严格数据法规。
• 各机构的模型性能与集中式训练相当，证明了其可行性和有效性。
• 对模型更新的安全聚合确保了在协作过程中不会暴露任何单一机构的数据。
• 该框架具有可扩展性，并可适应具有不同数据政策的多样化政府机构环境。
• 该系统在维护数据主权和监管合规性的前提下，实现了协作式人工智能开发。