[论文解读] Federated Learning Priorities Under the European Union Artificial Intelligence Act

Herbert Woisetschläger, Alexander Erben+5 more|arXiv (Cornell University)|Feb 5, 2024

Digital Transformation in Law被引用 9

一句话总结

本文分析了欧盟 AI 法案如何影响联邦学习（FL），并主张在法案框架下重新调整 FL 的研究优先级，以满足数据治理、隐私、能效和鲁棒性等要求。

ABSTRACT

The age of AI regulation is upon us, with the European Union Artificial Intelligence Act (AI Act) leading the way. Our key inquiry is how this will affect Federated Learning (FL), whose starting point of prioritizing data privacy while performing ML fundamentally differs from that of centralized learning. We believe the AI Act and future regulations could be the missing catalyst that pushes FL toward mainstream adoption. However, this can only occur if the FL community reprioritizes its research focus. In our position paper, we perform a first-of-its-kind interdisciplinary analysis (legal and ML) of the impact the AI Act may have on FL and make a series of observations supporting our primary position through quantitative and qualitative analysis. We explore data governance issues and the concern for privacy. We establish new challenges regarding performance and energy efficiency within lifecycle monitoring. Taken together, our analysis suggests there is a sizable opportunity for FL to become a crucial component of AI Act-compliant ML systems and for the new regulation to drive the adoption of FL techniques in general. Most noteworthy are the opportunities to defend against data bias and enhance private and secure computation

研究动机与目标

• 分析欧盟AI法案对联邦学习（FL）系统的影响，并识别符合监管要求的研究优先事项。
• 评估AI法案下对FL的数据治理、隐私、能效和鲁棒性要求。
• 提供关于成本、权衡与适用于FL合规与采用的机会的定量和定性洞见。

提出的方法

• 执行与AI法案优先事项一致的数据治理和隐私为中心的分析。
• 定量评估FL中隐私保护技术（例如 DP、SMPC、HEC）的能源和计算成本。
• 定性分析在GDPR和AI法案下FL的数据血统、偏见缓解和治理优势。
• 使用BERT微调FL实验来量化隐私-能耗权衡和验证成本。
• 提出未来的研究优先事项，以加速合规机器学习系统中FL的采用。

实验结果

研究问题

• RQ1 欧盟AI法案在数据治理、隐私、能效和鲁棒性等方面如何影响联邦学习？
• RQ2 在AI法案要求下，在FL中应用私有和安全计算技术的权衡与成本有哪些？
• RQ3 FL的数据血统和分区数据访问能否在高风险应用中帮助解决数据偏差和类似GDPR的隐私要求？
• RQ4 把FL与AI法案对齐以实现广泛采用的实际研究优先事项是什么？

主要发现

• AI法案引入治理、隐私、能源和鲁棒性挑战，可能改变FL的研究优先级。
• 隐私技术的成本差异：DP在计算上成本较低，但使监管对齐变得复杂；而SMPC/HEC成本更高，但提供强隐私。
• 能效是一个关键约束；FL在能效方面目前落后于集中训练，PEFT显示出显著的能量节省。
• 在AI法案下的验证和监控会产生能源和调度成本，造成及时鲁棒性检查与能源使用之间的优化问题。
• 在适当研究重点的前提下，FL的隐私设计本质和数据血统优势使其成为合规高风险应用的有利框架。
• 本文提供了量化的隐私-能源权衡，并概述了FL在满足GDPR/AI法案隐私要求方面的定性优势。