[논문 리뷰] Federated Learning for Coalition Operations

Dinesh Verma, Seraphin Calo외 9명|arXiv (Cornell University)|2019. 10. 14.

Privacy-Preserving Technologies in Data참고 문헌 16인용 수 4

한 줄 요약

이 논문은 다양한 데이터 품질, 신뢰 수준, 모델 아키텍처를 가진 분산된 이질적 파트너 간에 보안적이고 프라이버시를 보장하는 모델 훈련을 가능하게 하는 연합 학습 프레임워크를 제안한다. 이는 원시 데이터나 모델을 직접 공유하지 않고도 이질적인 데이터와 모델을 정렬하기 위해 정책 기반의 데이터 변환 및 모델 융합 기법을 도입함으로써, 대역폭과 보안 제약 조건 하에서도 연합 전체의 AI 성능을 향상시킨다.

ABSTRACT

Machine Learning in coalition settings requires combining insights available from data assets and knowledge repositories distributed across multiple coalition partners. In tactical environments, this requires sharing the assets, knowledge and models in a bandwidth-constrained environment, while staying in conformance with the privacy, security and other applicable policies for each coalition member. Federated Machine Learning provides an approach for such sharing. In its simplest version, federated machine learning could exchange training data available among the different coalition members, with each partner deciding which part of the training data from other partners to accept based on the quality and value of the offered data. In a more sophisticated version, coalition partners may exchange models learnt locally, which need to be transformed, accepted in entirety or in part based on the quality and value offered by each model, and fused together into an integrated model. In this paper, we examine the challenges present in creating federated learning solutions in coalition settings, and present the different flavors of federated learning that we have created as part of our research in the DAIS ITA. The challenges addressed include dealing with varying quality of data and models, determining the value offered by the data/model of each coalition partner, addressing the heterogeneity in data representation, labeling and AI model architecture selected by different coalition members, and handling the varying levels of trust present among members of the coalition. We also identify some open problems that remain to be addressed to create a viable solution for federated learning in coalition environments.

연구 동기 및 목표

• 다양한 정책, 신뢰 수준, 데이터 형식을 가진 파트너 간에 분산된 데이터와 모델을 활용해 효과적인 AI 모델을 훈련하는 데 도전하는 것.
• 제한된 대역폭과 엄격한 데이터 거버넌스 요구 사항을 가진 전술 환경에서 보안적이고 프라이버시를 보장하는 협업을 가능하게 하는 것.
• 연합 설정에서 데이터 공유 및 모델 공유 방식을 모두 지원하는 프레임워크를 개발하는 것.
• 이질적인 데이터 및 모델 표현을 공통 스키마로 변환하기 위한 생성적 정책을 만드는 것.
• 파트너 간의 데이터 품질, 모델 가치, 신뢰 수준를 고려한 모델 융합을 가능하게 하는 것.

제안 방법

• 시스템은 이중 서비스 아키텍처를 사용한다: 각 연합 파트너에 위치한 훈련 서비스와 중심 또는 지정된 파트너에 위치한 융합 서비스로 구성되며, 모델 융합을 조율한다.
• 각 훈련 서비스는 현지 데이터 통계를 융합 서버에 보고하며, 이 서버는 데이터 형식, 특징 이름, 레이블 집합을 통일하기 위한 변환 정책을 생성한다.
• 정책에는 데이터 형식 변환(예: .jpg에서 .png로), 특징 재라벨링, 출력 레이블 표준화가 포함되어 있어 파트너 간 데이터 정렬을 가능하게 한다.
• 훈련 서비스는 이러한 정책을 적용하여 현지 데이터를 훈련 전에 공통 스키마로 변환하며, 융합 서버에서 전송된 배치 크기 및 훈련 반복 수와 같은 제어 매개변수를 사용한다.
• 현지 훈련 후 모델은 융합 서버에 공유되며, 이 서버는 신뢰 가중치 또는 품질 기반의 집합 전략을 사용해 검증 및 융합한다.
• 프레임워크는 데이터 수준 및 모델 수준의 연합 학습을 모두 지원하며, 데이터 품질 및 파트너별 고유의 제약 조건에 기반해 정책을 동적으로 생성한다.

실험 결과

연구 질문

• RQ1 이질적인 데이터 형식과 레이블링 체계를 가진 연합 파트너들이 보안적이고 효과적으로 데이터를 결합해 연합 모델 훈련을 수행할 수 있는 방법은 무엇인가?
• RQ2 다양한 신뢰 수준을 가진 파트너 간에 모델 공유를 가능하게 하면서도 프라이버시와 보안을 확보할 수 있는 메커니즘은 무엇인가?
• RQ3 데이터 및 모델 품질은 어떻게 평가하고 융합 과정에 통합하여 전체 모델 성능을 향상시킬 수 있는가?
• RQ4 다양한 연합 파트너 간의 이질적인 데이터 표현을 표준화하기 위한 정책 생성 기법은 무엇인가?
• RQ5 연합 학습은 훈련 단계를 넘어서 어떻게 확장되어 전술 운영에서 연합 추론 및 행동 조율을 지원할 수 있는가?

주요 결과

• 제안된 정책 기반의 데이터 변환 프레임워크는 이질적인 데이터를 연합 파트너 간에 공통 스키마로 정렬하여 원시 데이터 공유 없이도 효과적인 모델 훈련을 가능하게 했다.
• 모델 공유를 통한 연합 학습은 데이터 품질과 표현 방식이 상이한 파트너의 데이터를 사용하더라도 중심화된 훈련과 유사한 성능을 달성했다.
• 정책 기반의 데이터 표준화를 통해 데이터 전송을 최소화함으로써, 대역폭 제약 조건이 있는 전술 환경에서의 실행 가능성을 입증했다.
• 신뢰도 및 데이터 품질 메트릭스가 융합 과정에 효과적으로 통합되어 최종 모델의 강건성과 신뢰성을 향상시켰다.
• 프레임워크는 데이터 수준 및 모델 수준의 연합 학습을 모두 지원하여 연합 협업 전략에 유연성을 제공했다.
• 이 접근법은 다양한 데이터 거버넌스 및 보안 정책을 가진 군사 및 동맹 파트너 간에 보안적이고 프라이버시를 보장하는 AI 협업을 가능하게 했다.