[논문 리뷰] Get your Foes Fooled: Proximal Gradient Split Learning for Defense against Model Inversion Attacks on IoMT data

Sunder Ali Khowaja, Ik Hyun Lee외 3명|arXiv (Cornell University)|2022. 01. 12.

Adversarial Robustness in Machine Learning인용 수 6

한 줄 요약

이 논문은 인터넷 의료 사물(IoMT) 시스템에서 모델 역전환 공격에 대응하기 위한 Proximal Gradient Split Learning (PGSL)을 제안한다. 분할 학습 중 프록시멀 기울기 최적화 및 의사결정 수준 융합을 활용함으로써 PGSL는 기울기 기반 데이터 복원을 방해하면서 동시에 악성 공격을 받은 이미지에서 최대 36.9% 향상된 정확도를 달성하여 환자 데이터 프라이버시를 효과적으로 보호하면서 모델 성능을 손상시키지 않는다.

ABSTRACT

The past decade has seen a rapid adoption of Artificial Intelligence (AI), specifically the deep learning networks, in Internet of Medical Things (IoMT) ecosystem. However, it has been shown recently that the deep learning networks can be exploited by adversarial attacks that not only make IoMT vulnerable to the data theft but also to the manipulation of medical diagnosis. The existing studies consider adding noise to the raw IoMT data or model parameters which not only reduces the overall performance concerning medical inferences but also is ineffective to the likes of deep leakage from gradients method. In this work, we propose proximal gradient split learning (PSGL) method for defense against the model inversion attacks. The proposed method intentionally attacks the IoMT data when undergoing the deep neural network training process at client side. We propose the use of proximal gradient method to recover gradient maps and a decision-level fusion strategy to improve the recognition performance. Extensive analysis show that the PGSL not only provides effective defense mechanism against the model inversion attacks but also helps in improving the recognition performance on publicly available datasets. We report 14.0$\%$, 17.9$\%$, and 36.9$\%$ gains in accuracy over reconstructed and adversarial attacked images, respectively.

연구 동기 및 목표

• IoMT 시스템에서 환자 데이터 프라이버시를 침해하는 증가하는 모델 역전환 공격의 위협을 해결하기 위해.
• iDLG 및 DLG와 같은 고도의 공격에 실패하거나 모델 성능을 떨어뜨리는 기존 방어 기법의 한계를 극복하기 위해.
• 의료 영상 분류에서 높은 정확도를 유지하면서도 데이터 프라이버시를 보존하는 강력한 방어 기반을 개발하기 위해.
• 모델 가중치를 공동으로 학습하면서도 원본 데이터는 로컬 장치에 유지하는 분할 학습 아키텍처에 프록시멀 기울기 최적화를 통합하여 민감한 헬스케어 응용 분야에서 안전하고 프라이버시를 보장하는 딥 러닝을 가능하게 하기 위해.

제안 방법

• 제안된 PGSL 프레임워크는 분할 학습 중 기울기 지도를 복원하기 위해 프록시멀 기울기 방법을 사용하여 공격자가 기울기에서 원본 IoMT 데이터를 복원하는 능력을 방해한다.
• 다양한 클라이언트의 예측을 융합하는 의사결정 수준 융합 전략을 통해 정확도 및 악성 입력에 대한 강건성을 향상시킨다.
• 모델의 유용성을 떨어뜨리지 않으면서도 클라이언트 측에서 학습 과정을 의도적으로 교란하여 역전환 공격를 시도하는 공격자를 오도시킨다.
• 모델 가중치는 공동으로 학습되지만 원본 데이터는 로컬 장치에 그대로 유지되는 분할 학습 아키텍처에 PGSL를 통합하여 데이터 프라이버시를 보장한다.
• 학습 안정성 향상과 악성 조건 하에서의 일반화 능력 향상을 위해 프록시멀 기울기 최적화를 사용하여 프레임워크를 평가한다.
• 특정 데이터셋(MIAS 및 MNIST)에 맞게 초기화된 하이퍼파라미터를 조정하여 다양한 의료 영상 모odalities에서의 성능을 최적화한다.

실험 결과

연구 질문

• RQ1 프록시멀 기울기 분할 학습은 정확도 저하 없이 IoMT 데이터에 대한 모델 역전환 공격을 효과적으로 방어할 수 있는가?
• RQ2 iDLG, DLG 및 FGSM과 같은 최첨단 공격 기법과 비교할 때 PGSL는 데이터 복원 성공률과 모델 성능 측면에서 어떤가?
• RQ3 PGSL의 의사결정 수준 융합 전략은 복원된 이미지나 악성 공격을 받은 이미지에서 정확도 향상에 어느 정도 기여하는가?
• RQ4 PGSL는 흑백 X-레이, CT 스캔 및 전자 건강 기록과 같은 이질적인 의료 데이터 모달리티로 확장될 수 있는가?

주요 결과

• MIAS 데이터셋에서 PGSL는 83.2%의 정확도를 달성하여 기준 공격에서 복원된 이미지 대비 14.0% 향상된 성능을 보였다.
• MNIST 데이터셋에서 PGSL는 99.8%의 정확도를 기록하여 iDLG 공격 방법 대비 36.9% 향상된 성능을 보였다.
• 이 방법은 기울기 기반 복원을 방해함으로써 모델 역전환 공격의 성공률을 낮추었으며, 특히 iDLG 및 DLG 기법에 효과적으로 대응하였다.
• PGSL는 FGSM 및 BIM과 같은 악성 노이즈 공격 조건에서도 뛰어난 강건성을 보이며 높은 성능을 유지하였다.
• 의사결정 수준 융합 전략은 특히 고노이즈 또는 복원된 조건에서 정확도 향상에 크게 기여하였다.
• 이 프레임워크는 다양한 의료 영상 모달리티에 적응 가능하며 메타버스 및 디지털 트윈과 같은 가상 헬스케어 환경으로도 확장 가능하다.