[논문 리뷰] CT-GAN: Malicious Tampering of 3D Medical Imagery using Deep Learning

Yisroel Mirsky, Tom Mahler외 2명|arXiv (Cornell University)|2019. 01. 11.

Digital Media Forensic Detection참고 문헌 46인용 수 108

한 줄 요약

CT-GAN은 조건부 GAN을 사용하여 3D CT 스캔에서 증거(예: 폐암)의 자동적이고 현실적인 주입/제거를 시연하고, 이러한 조작에 대해 영상의사와 AI의 민감성을 검증한다.

ABSTRACT

In 2018, clinics and hospitals were hit with numerous attacks leading to significant data breaches and interruptions in medical services. An attacker with access to medical records can do much more than hold the data for ransom or sell it on the black market. In this paper, we show how an attacker can use deep-learning to add or remove evidence of medical conditions from volumetric (3D) medical scans. An attacker may perform this act in order to stop a political candidate, sabotage research, commit insurance fraud, perform an act of terrorism, or even commit murder. We implement the attack using a 3D conditional GAN and show how the framework (CT-GAN) can be automated. Although the body is complex and 3D medical scans are very large, CT-GAN achieves realistic results which can be executed in milliseconds. To evaluate the attack, we focused on injecting and removing lung cancer from CT scans. We show how three expert radiologists and a state-of-the-art deep learning AI are highly susceptible to the attack. We also explore the attack surface of a modern radiology network and demonstrate one attack vector: we intercepted and manipulated CT scans in an active hospital network with a covert penetration test. Demo video: https://youtu.be/_mkRAArj-x0 Source code: https://github.com/ymirsky/CT-GAN

연구 동기 및 목표

• 질병의 증거를 주입하거나 제거하여 3D 의학 이미지를 변조하는 현실적이고 자동화된 방법을 공개한다.
• 변조된 CT 스캔에서 영상의사와 AI 폐암 선별 시스템을 테스트하여 위협을 평가한다.
• 병원 PACS 네트워크 내의 공격 벡터를 시연하고 실용적 대책을 논의한다.
• 추가 조사 및 방어를 가능하게 하는 재현 가능한 데이터셋과 코드를 제공한다.

제안 방법

• 로컬화된 3D CT 영역에서 조직을 주입(비정상)하거나 제거(정상)하기 위한 인페인팅에 두 개의 조건부 GAN(cGAN)을 사용한다.
• 과정은 대상 증거 영역을 찾고, 직육면체를 추출하고, 크기를 조정(보간)하고, cGAN 수정을 적용한 뒤, 다시 스캔에 큐보드를 삽입하는 것을 포함한다.
• 히스토그램 평활화, 조직 밀도 마스킹(Hounsfield 단위), 가우시안 노이즈를 사용하여 경계 아티팩트를 줄이고 현실감을 향상시킨다.
• 공기 격리된 PACS 환경에서 작동하도록 공격을 자동화하고, 전문 영상의사와 최첨단 AI 폐암 선별 모델로 검증한다.
• 실용적 공격 표면과 잠재적 가로채기 경로를 보여주기 위해 병원 침투 테스트를 시연한다.

실험 결과

연구 질문

• RQ1 딥러닝을 사용하여 질병의 증거를 주입하거나 제거하기 위해 3D 의학 영상(CT 스캔)을 현실적으로 변조할 수 있는가?
• RQ2 영상의사와 기계 학습 모델이 변조된 3D 의학 영상을 탐지하는 효과는 어느 수준인가?
• RQ3 현대의 PACS/RIS 네트워크에서 이러한 변조를 배포하기 위한 그럴듯한 공격 표면과 벡터는 무엇인가?
• RQ4 자동화된 변조를 완화하고 탐지를 개선할 수 있는 대책은 무엇인가?

주요 결과

• 세 명의 영상의사가 주입된 암 사례의 99%를 악성으로 올바르게 진단했다.
• 주요 제거된 암 사례의 94%를 건강한 것으로 판단했다.
• 공격에 대해 영상의사에게 알린 후에도 주입 중 60%가 여전히 암으로 오진되었고 제거에 대해 87%가 암으로 오진되었다.
• 최신 AI 폐암 선별 모델이 변조된 환자 100%를 오진했다.
• 이 공격은 현실적인 병원 네트워크에서 실행 가능하며 공기 격리된 시스템에 대해서도 자동화할 수 있다.