[논문 리뷰] The Security of Deep Learning Defences for Medical Imaging

Moshe Levy, Guy Amit외 2명|arXiv (Cornell University)|2022. 01. 21.

Adversarial Robustness in Machine Learning인용 수 5

한 줄 요약

이 논문은 의료 영상에서 최신 딥러닝 방어 기법이 기울기 정보를 활용하는 적응형 공격자에게는 효과가 없음을 입증한다. 이 공격자는 테스트된 다섯 가지 방어 기법을 모두 우회할 수 있다. 저자들은 두 가지 강력한 대안을 제안한다: 의료 영상에 대한 접근을 방지하기 위해 시스템 보안을 강화하고, DICOM에서 지원하는 디지털 서명을 사용하여 영상 무결성을 확보하는 것이다. 이는 의료 AI의 적대적 위협에 대해 실용적이고 암호학적으로 타당한 해결책을 제공한다.

ABSTRACT

Deep learning has shown great promise in the domain of medical image analysis. Medical professionals and healthcare providers have been adopting the technology to speed up and enhance their work. These systems use deep neural networks (DNN) which are vulnerable to adversarial samples; images with imperceivable changes that can alter the model's prediction. Researchers have proposed defences which either make a DNN more robust or detect the adversarial samples before they do harm. However, none of these works consider an informed attacker which can adapt to the defence mechanism. We show that an informed attacker can evade five of the current state of the art defences while successfully fooling the victim's deep learning model, rendering these defences useless. We then suggest better alternatives for securing healthcare DNNs from such attacks: (1) harden the system's security and (2) use digital signatures.

연구 동기 및 목표

• 기존의 딥러닝 방어 기법이 기울기 정보를 활용하는 적대적 공격자에게 얼마나 취약한지 폭 드러내는 것.
• 공격자가 비적응형이라고 가정하는 의료 AI 시스템의 심각한 보안 격차를 해결하는 것.
• 모델 기반 방어 기법보다 더 효과적이고 실용적인 대안으로, 시스템 수준의 보안 강화와 디지털 서명 도입을 권장하는 것.
• 의료 제공자와 연구자가 의료 영상 분석을 위한 안정적이고 내성적인 AI 시스템을 구현하는 데 도움이 되도록 안내하는 것.

제안 방법

• 저자들은 기울기 기반 공격 기법을 사용하여, 적응형 적대적 공격에 대해 의료 영상에서 최신의 다섯 가지 방어 기법을 평가한다.
• 공격자가 방어 메커니즘의 전체 정보—모델 아키텍처와 방어 로직—를 알고 있는 정보가 풍부한 공격자 환경을 시뮬레이션한다.
• 피해자 모델의 기울기 정보를 활용하여, 탐지되지 않고 DNN을 속이는 적대적 편향을 생성한다.
• 네트워크 암호화, 접근 제어, 패치 관리 등을 통해 시스템 강화를 통해 공격자가 영상에 접근하는 것을 방지한다.
• DICOM 표준을 활용한 엔드 투 엔드 디지털 서명 통합을 통해 영상의 무결성을 암호학적으로 검증할 것을 주장한다.
• 모든 PACS 시스템이 영상 분석 이전에 엔드포인트에서 디지털 서명을 검증해야 한다고 권고한다.

실험 결과

연구 질문

• RQ1 기본적으로 방어 기법을 알고 있는 공격자가 의료 영상에서 최신 다섯 가지 방어 기법을 성공적으로 우회할 수 있는가?
• RQ2 왜 공격자가 모델의 기울기를 관찰할 수 있을 경우 현재의 방어 기법들이 실패하는가?
• RQ3 실제 의료 환경에서 의료 DNN을 적대적 공격으로부터 효과적으로 보호할 수 있는 대안 보안 메커니즘은 무엇인가?
• RQ4 디지털 서명은 PACS 네트워크에서 의료 영상의 무결성을 어떻게 확보할 수 있는가?
• RQ5 시스템 강화는 공격 표면을 줄이고 의료 영상 파이프라인에서의 적대적 샘플 주입을 방지할 수 있는가?

주요 결과

• 의료 영상에서 평가된 다섯 가지 최신 방어 기법 모두가, 모델의 기울기를 관찰할 수 있는 적응형 공격자에 의해 성공적으로 우회되었다.
• 현재 방어 기법의 핵심적인 실패 원인은 기울기 泄露를 방지하지 못해 기울기 기반 적대적 공격에 취약하다는 데 있다.
• DICOM 표준에서 이미 지원되고 있는 디지털 서명은 영상의 무결성을 암호학적으로 검증하고 변조를 방지할 수 있다.
• 네트워크 암호화, 접근 제어, 정기적인 업데이트 등의 시스템 강화 조치는 인프라 수준에서 많은 공격 벡터를 효과적으로 차단할 수 있다.
• PACS 관리자는 모델 기반 적대적 탐지 기법에 의존하기보다는 네트워크 보안 강화와 엔드포인트에서의 디지털 서명 검증을 우선시해야 한다.
• 의료 영상 분야는 다른 분야에 비해 유일한 이점이 있다: 폐쇄형 시스템과 종단 간 데이터 라이프사이클 제어를 통해 더 강력하고 신뢰할 수 있는 보안 조치를 구현할 수 있다.