[논문 리뷰] Federated Dynamic GNN with Secure Aggregation

Meng Jiang, Taeho Jung외 2명|arXiv (Cornell University)|2020. 09. 15.

Privacy-Preserving Technologies in Data참고 문헌 34인용 수 24

한 줄 요약

이 논문은 자기주도적 궤적 예측을 통해 공간적 및 시간적 그래프 구조를 활용하여 다중 사용자 영상 데이터로부터 객체 표현을 학습하는 연합 동적 그래프 신경망 Feddy를 제안한다. 연합 학습과 보안 집계를 통해 기밀 유지 모델 훈련을 가능하게 하여, 중앙 서버가 해킹되더라도 모델 업데이트가 기밀을 유지함을 보장하며, 실제 감시 데이터셋에서 뛰어난 성능을 달성한다.

ABSTRACT

Given video data from multiple personal devices or street cameras, can we exploit the structural and dynamic information to learn dynamic representation of objects for applications such as distributed surveillance, without storing data at a central server that leads to a violation of user privacy? In this work, we introduce Federated Dynamic Graph Neural Network (Feddy), a distributed and secured framework to learn the object representations from multi-user graph sequences: i) It aggregates structural information from nearby objects in the current graph as well as dynamic information from those in the previous graph. It uses a self-supervised loss of predicting the trajectories of objects. ii) It is trained in a federated learning manner. The centrally located server sends the model to user devices. Local models on the respective user devices learn and periodically send their learning to the central server without ever exposing the user's data to server. iii) Studies showed that the aggregated parameters could be inspected though decrypted when broadcast to clients for model synchronizing, after the server performed a weighted average. We design an appropriate aggregation mechanism of secure aggregation primitives that can protect the security and privacy in federated learning with scalability. Experiments on four video camera datasets (in four different scenes) as well as simulation demonstrate that Feddy achieves great effectiveness and security.

연구 동기 및 목표

• 원시 사용자 데이터를 중앙 집중화하지 않고 분산 영상 데이터로부터 동적 객체 표현을 학습하는 데 도전하는 것.
• 감시 시스템에서 다수의 장치 간에 동적 GNN을 훈련하기 위한 확장성 있고 기밀 유지 프레임워크를 설계하는 것.
• 연합 학습에서 암호 기반의 보안 집계 원리를 적용하여 모델 업데이트에 대한 추론 공격을 방지하는 것.
• 인간 주석이 필요 없이 궤적 예측을 사전 훈련 목표로 사용하여 자기주도적 표현 학습을 가능하게 하는 것.
• 시간적 시계열 그래프 데이터를 위한 연합 GNN 훈련에서 보안, 확장성, 계산 효율성 간의 균형을 이루는 것.

제안 방법

• 모델은 각 영상 프레임 내의 공간적 관계와 연속된 프레임 간의 시간적 관계를 모두 집계하는 동적 GNN 아키텍처를 사용한다.
• 노드 표현을 인간 주석 없이 의미 있는 방식으로 학습하기 위해 향후 5초 후의 객체 위치를 예측하는 자기주도적 손실 함수를 적용한다.
• 모델 훈련을 위해 연합 학습을 활용한다: 로컬 모델은 사용자 기기에서 업데이트되고, 원시 데이터 대신 모델 파라미터만 중앙 서버에 공유된다.
• 암호 기반 원리를 사용하여 모델 업데이트에 대해 보안 집계를 적용함으로써 서버가 개별 기여도를 유추할 수 없도록 보장한다.
• 보안 집계 메커니즘은 키 생성, 무작위 값으로 모델 업데이트 마스킹, 서버 측 집계를 포함하며, 모두 추론 공격을 방지하도록 설계되어 있다.
• 주기적인 동기화(매 10 에포크마다)를 통해 통신 오버헤드를 줄이면서도 강력한 기밀 보장 조건을 유지한다.

실험 결과

연구 질문

• RQ1 분산 영상 데이터에서 기밀을 유지하면서도 연합 방식으로 동적 GNN을 효과적으로 훈련시킬 수 있는가?
• RQ2 인간 주석 없이 영상 시퀀스의 공간적 및 시간적 패턴을 효과적으로 자기주도적으로 포착할 수 있는가?
• RQ3 보안 집계가 연합 GNN 훈련에서 모델 업데이트에 대한 추론 공격을 어느 정도 방지할 수 있는가?
• RQ4 보안 연합 GNN 훈련에서 보안, 통신 비용, 계산 오버헤드 간의 상호 갈등은 어떻게 발생하는가?
• RQ5 다양한 영상 데이터를 포함한 실제 감시 환경에서 제안된 프레임워크는 어떤 성능을 보이는가?

주요 결과

• Feddy는 네 개의 실제 영상 카메라 데이터셋에서 뛰어난 성능을 달성하여 자기주도적 궤적 예측을 통한 동적 객체 표현 학습이 효과적임을 입증한다.
• 보안 집계의 적용으로 중앙 서버가 해킹되더라도 개별 훈련 데이터를 추론할 수 없으며, 증명 가능한 기밀 보장 기능을 제공한다.
• 보안 집계의 통신 및 계산 비용은 무시할 수 없지만, 집계가 매 10 에포크에 한 번만 수행됨을 감안하면 수용 가능한 수준이다.
• 보안 집계의 마스킹 단계는 모델 차원에 따라 제곱적으로 증가하지만, 희소한 실행 빈도와 관리 가능한 오버헤드 덕분에 실행 가능하다.
• 사용자 수 증가에 따라 프레임워크가 잘 확장되며, 키 생성 및 집계 비용이 선형적으로 증가하고, 대규모 배포에도 실용적임을 입증한다.
• 실험 결과, 모델이 인간 주석 데이터 없이도 차량이 교차로에서 속도를 줄이는 것과 자전거 기사가 교통을 우회하는 복잡한 시공간 패턴을 효과적으로 포착함을 보였다.