[논문 리뷰] Federated Learning Priorities Under the European Union Artificial Intelligence Act

Herbert Woisetschläger, Alexander Erben외 5명|arXiv (Cornell University)|2024. 02. 05.

Digital Transformation in Law인용 수 9

한 줄 요약

본 논문은 EU AI Act가 Federated Learning (FL)에 미치는 영향을 분석하고, 법령의 데이터 거버넌스, 프라이버시, 에너지 효율성, 강건성 요건을 충족하도록 FL 연구 우선순위를 재구성할 것을 주장한다.

ABSTRACT

The age of AI regulation is upon us, with the European Union Artificial Intelligence Act (AI Act) leading the way. Our key inquiry is how this will affect Federated Learning (FL), whose starting point of prioritizing data privacy while performing ML fundamentally differs from that of centralized learning. We believe the AI Act and future regulations could be the missing catalyst that pushes FL toward mainstream adoption. However, this can only occur if the FL community reprioritizes its research focus. In our position paper, we perform a first-of-its-kind interdisciplinary analysis (legal and ML) of the impact the AI Act may have on FL and make a series of observations supporting our primary position through quantitative and qualitative analysis. We explore data governance issues and the concern for privacy. We establish new challenges regarding performance and energy efficiency within lifecycle monitoring. Taken together, our analysis suggests there is a sizable opportunity for FL to become a crucial component of AI Act-compliant ML systems and for the new regulation to drive the adoption of FL techniques in general. Most noteworthy are the opportunities to defend against data bias and enhance private and secure computation

연구 동기 및 목표

• EU AI Act가 Federated Learning (FL) 시스템에 미치는 영향을 분석하고 규제에 부합하는 연구 우선순위를 식별한다.
• AI Act 하에서 FL에 대한 데이터 거버넌스, 프라이버시, 에너지 효율성 및 강건성 요건을 평가한다.
• FL의 규정 준수 및 채택에 대한 비용, 트레이드오프 및 기회에 대한 정량적 및 정성적 인사이트를 제공한다.

제안 방법

• AI Act의 우선순위에 맞춘 데이터 거버넌스 및 프라이버시 중심 분석을 수행한다.
• FL에서 프라이버시 보존 기법의 에너지 및 계산 비용을 정량적으로 평가한다 (예: DP, SMPC, HEC).
• GDPR 및 AI Act 하에서 FL의 데이터 계보(데이터 릴레이션), 편향 완화 및 거버넌스상의 이점을 질적으로 분석한다.
• 프라이버시-에너지 트레이드오프와 검증 비용을 정량화하기 위해 BERT 파인튜닝 FL 실험을 사용한다.
• 규정을 준수하는 ML 시스템에서 FL 채택을 가속하기 위한 향후 연구 우선순위를 제안한다.

실험 결과

연구 질문

• RQ1 EU AI Act가 데이터 거버넌스, 프라이버시, 에너지 효율성, 및 강건성 측면에서 Federated Learning에 어떤 영향을 미치는가?
• RQ2 AI Act 요건하에서 FL에 프라이빗하고 안전한 계산 기법을 적용하는 데 따른 트레이드오프와 비용은 무엇인가?
• RQ3 고위험 애플리케이션에서 FL의 데이터 계보와 격리된 데이터 접근이 데이터 편향 및 GDPR과 유사한 프라이버시 요건을 해결하는 데 도움이 될 수 있는가?
• RQ4 광범위한 채택을 위해 FL을 AI Act에 맞추기 위한 실질적인 연구 우선순위는 무엇인가?

주요 결과

• AI Act는 거버넌스, 프라이버시, 에너지, 강건성 문제를 제시하여 FL 연구 우선순위를 재편할 수 있다.
• 프라이버시 기법은 비용에서 차이가 있다: DP는 계산 측면에서 가볍지만 규제 정렬을 복잡하게 하고, SMPC/HEC는 비용이 더 들지만 강력한 프라이버시를 제공한다.
• 에너지 효율성은 중요한 제약이며, FL은 현재 에너지 효율성에서 중앙집중 학습보다 뒤처져 있고, PEFT가 상당한 에너지 절감을 보인다.
• AI Act 하에서의 검증 및 모니터링은 에너지 및 스케줄링 비용을 수반하여, 시의적절한 강건성 검사와 에너지 사용 간의 최적화 문제를 만든다.
• FL의 프라이시-디자인(privacy-by-design) 특성과 데이터 계보의 이점은 적절한 연구 초점을 고려할 때 규정을 준수한 고위험 애플리케이션에 유리한 프레임워크로 위치시킨다.
• 본 논문은 정량화된 프라이버시-에너지 트레이드오프를 제공하고, GDPR/AI Act 프라이버시 요구사항을 충족하는 FL의 질적 이점을 개략적으로 제시한다.