[논문 리뷰] Federated AI for building AI Solutions across Multiple Agencies

Dinesh Verma, Simon Julier외 1명|arXiv (Cornell University)|2018. 09. 20.

Privacy-Preserving Technologies in Data참고 문헌 5인용 수 15

한 줄 요약

이 논문은 민감한 데이터를 공유하지 않고 정부 기관 간에 협업하는 AI 모델 개발을 가능하게 하기 위해 연합 학습( Federated AI )을 제안한다. 이는 모델을 국지적으로 업데이트하고 오직 모델 파라미터만 교환하는 탈중앙화된 훈련 방식을 활용한다. 이 방법은 엄격한 데이터 개인정보 보호 규정 하에서 기관 간 AI 모델 훈련을 성공적으로 구현하며, 높은 성능을 달성하면서도 데이터 주권을 유지한다.

ABSTRACT

The different sets of regulations existing for differ-ent agencies within the government make the task of creating AI enabled solutions in government dif-ficult. Regulatory restrictions inhibit sharing of da-ta across different agencies, which could be a significant impediment to training AI models. We discuss the challenges that exist in environments where data cannot be freely shared and assess tech-nologies which can be used to work around these challenges. We present results on building AI models using the concept of federated AI, which al-lows creation of models without moving the training data around.

연구 동기 및 목표

• 엄격한 데이터 공유 규제로 인해 제약을 받는 정부 기관에서 AI 솔루션을 개발하는 데 도전하는 것.
• AI 훈련을 위한 기관 간 데이터 공유를 방해하는 규제적 장벽을 극복하는 것.
• 다양한 기관 간 협업 가능한 AI 모델 훈련을 위한 확장성 있고 개인정보 보호를 고려한 프레임워크를 개발하는 것.
• 민감한 데이터를 중앙집중화하지 않고도 효과적인 AI 모델을 훈련시킬 수 있는 가능성을 입증하는 것.
• 공공부문 AI 응용 프로그램에서 데이터 거버넌스 및 개인정보 보호 규정을 준수하는 것.

제안 방법

• 각 기관이 자체 데이터로 국지 모델을 훈련하고 데이터 이동 없이 진행되는 연합 학습 아키텍처를 구현하는 것.
• 중앙 서버를 통해 여러 기관의 모델 업데이트를 집계하여 글로벌 모델을 개선하는 것.
• 전송 중 모델 업데이트를 보호하기 위해 안전한 집계 기법을 사용하는 것.
• 데이터 주권을 유지하면서도 엄격한 규제 조건 하에서 시스템을 운영하도록 설계하는 것.
• 정부 데이터 정책에 맞게 수정된 기존의 연합 학습 프레임워크를 활용하는 것.
• 실제 데이터 접근 제약 조건이 적용된 시뮬레이션된 다기관 환경에서 접근 방식을 검증하는 것.

실험 결과

연구 질문

• RQ1 규제적 제약으로 인해 데이터를 공유할 수 없는 상황에서 정부 기관 간에 어떻게 효과적으로 AI 모델을 훈련시킬 수 있는가?
• RQ2 민감한 데이터를 중앙집중화하지 않고도 협업 모델 훈련을 가능하게 하는 기술적 아키텍처는 무엇인가?
• RQ3 연합 학습이 데이터 프라이버시와 규정 준수를 확보하면서도 얼마나 높은 모델 성능을 유지할 수 있는가?
• RQ4 여러 공공부문 기관이 참여하는 탈중앙화된 AI 훈련 환경에서 신뢰성과 보안을 어떻게 유지할 수 있는가?
• RQ5 정부 환경에서 연합 AI를 실제 구현할 때 발생하는 실용적 도전 과제는 무엇인가?

주요 결과

• 연합 학습은 원시 데이터를 이동시키지 않고도 기관 간 효과적인 AI 모델 훈련을 가능하게 하며, 데이터 프라이버시를 유지한다.
• 이 방법은 기관 간 데이터 공유를 금지하는 엄격한 데이터 규정을 성공적으로 준수한다.
• 기관 간 모델 성능은 중앙집중화된 훈련과 유사하여 타당성과 효과성을 입증한다.
• 모델 업데이트의 안전한 집계로 인해 협업 과정에서 개별 기관의 데이터가 폭 lộ되지 않는다.
• 이 프레임워크는 다양한 정부 기관 환경에 적용 가능하며, 다양한 데이터 정책에 대응할 수 있도록 확장성과 유연성을 지닌다.
• 시스템은 데이터 주권과 규정 준수를 유지하면서도 협업 기반의 AI 개발을 가능하게 한다.