[논문 리뷰] Improving Robustness of Deep-Learning-Based Image Reconstruction

Ankit Raj, Yoram Bresler외 1명|arXiv (Cornell University)|2020. 02. 26.

Adversarial Robustness in Machine Learning참고 문헌 44인용 수 15

한 줄 요약

이 논문은 신호 공간(x-space)가 아닌 측정 공간(y-space)에서 적대적 예제를 생성함으로써 딥러닝 기반 이미지 복원의 정확도를 향상시키기 위한 min-max 적대적 훈련 프레임워크를 제안한다. 이 방법은 훈련 중에 보조 네트워크를 사용해 편향을 생성하며, 이로 인해 특이값 필터링된 해를 도출하여, 선형 및 비선형 네트워크 모두에서 압축 측정 작업에서의 안정성을 크게 향상시키며, 잘 조절된 행렬과 잘 조절되지 않은 행렬 간의 정성적 차이를 관찰할 수 있다.

ABSTRACT

Deep-learning-based methods for different applications have been shown vulnerable to adversarial examples. These examples make deployment of such models in safety-critical tasks questionable. Use of deep neural networks as inverse problem solvers has generated much excitement for medical imaging including CT and MRI, but recently a similar vulnerability has also been demonstrated for these tasks. We show that for such inverse problem solvers, one should analyze and study the effect of adversaries in the measurement-space, instead of the signal-space as in previous work. In this paper, we propose to modify the training strategy of end-to-end deep-learning-based inverse problem solvers to improve robustness. We introduce an auxiliary network to generate adversarial examples, which is used in a min-max formulation to build robust image reconstruction networks. Theoretically, we show for a linear reconstruction scheme the min-max formulation results in a singular-value(s) filter regularized solution, which suppresses the effect of adversarial examples occurring because of ill-conditioning in the measurement matrix. We find that a linear network using the proposed min-max learning scheme indeed converges to the same solution. In addition, for non-linear Compressed Sensing (CS) reconstruction using deep networks, we show significant improvement in robustness using the proposed approach over other methods. We complement the theory by experiments for CS on two different datasets and evaluate the effect of increasing perturbations on trained networks. We find the behavior for ill-conditioned and well-conditioned measurement matrices to be qualitatively different.

연구 동기 및 목표

• 안전 기반 의료 영상에서 딥러닝 기반 이미지 복원 네트워크의 적대적 편향에 대한 취약성을 해결하기 위해.
• 이미지 복원의 역문제 성격을 고려할 때, 적대적 정확도는 신호 공간(x-space)이 아닌 측정 공간(y-space)에서 분석하고 개선되어야 한다고 주장하기 위해.
• 보조 네트워크를 사용해 훈련 중에 적대적 예제를 생성하는 min-max 훈련 프레임워크를 개발하여 정확도를 향상시키기 위해.
• 이론적 및 실증적 검증을 통해 제안된 방법이 특이값 필터링된 해를 도출하여, 잘 조절되지 않은 측정 행렬에서 발생하는 불안정성을 억제함을 입증하기 위해.
• 다양한 압축 측정 데이터셋과 측정 행렬 조건(잘 조절된 vs. 잘 조절되지 않은)에서의 정확도 향상을 입증하기 위해.

제안 방법

• 훈련 중에 측정 공간(y)에서 적대적 편향을 생성하는 min-max 적대적 훈련 공식화를 도입한다.
• 주 복원 네트워크가 이 오차를 최소화하도록 훈련되는 동안, 보조 네트워크를 사용해 복원 오차를 최대화하는 편향을 생성한다.
• 이론적 분석을 통해 선형 복원의 경우, min-max 공식화가 특이값 필터링 정규화 해로 이어지며, 이는 잘못 정의된 역문제를 안정화시킨다.
• y-space에서 생성된 적대적 예제를 사용한 엔드 투 엔드 훈련을 통해, 비선형 딥 네트워크로 이 방법을 확장한다.
• 제약 조건 하에 최적화를 볼록 프로그램으로 공식화하고, 라그랑주 제약을 통해 최적 해의 구조를 유도한다.
• 실증적 검증은 두 개의 압축 측정 데이터셋을 사용하여, 잘 조절된 행렬과 잘 조절되지 않은 행렬 모두에서 증가하는 편향 수준에 대한 정확도를 비교한다.

실험 결과

연구 질문

• RQ1 신호 공간(x)이 아닌 측정 공간(y)에서 편향을 생성할 경우, 이미지 복원에서의 적대적 정확도가 향상되는가?
• RQ2 보조 생성기와 함께 min-max 훈련 프레임워크를 사용할 경우, 선형 복원에서 특이값 필터링된 해를 도출할 수 있는가? 이는 정확도 향상에 기여하는가?
• RQ3 비선형 딥 네트워크에서 제안된 방법은 표준 적대적 훈련 또는 비적대적 기반 방법에 비해 어떤 정확도 성능을 보이는가?
• RQ4 적대적 편향 하에서 잘 조절된 행렬과 잘 조절되지 않은 행렬 간의 정확도 행동에 어떤 정성적 차이가 있는가?
• RQ5 선형 케이스의 이론적 수렴성이 비선형 딥 네트워크 환경에서 실증적으로 검증될 수 있는가?

주요 결과

• 제안된 min-max 훈련 프레임워크는 특히 측정 공간에서의 적대적 편향에 대해 딥 이미지 복원 네트워크의 정확도를 크게 향상시킨다.
• 선형 복원의 경우, 이 방법은 특이값 필터링된 해로 수렴하며, 이는 잘 조절되지 않은 측정 행렬의 영향을 이론적으로 억제한다.
• 실증 결과는 두 개의 압축 측정 데이터셋에서 제안된 방법이 표준 적대적 훈련 및 기반 방법보다 정성적 및 정량적 지표에서 모두 뛰어난 성능을 보임을 보여준다.
• 잘 조절된 행렬과 잘 조절되지 않은 행렬 간에 복원 네트워크의 행동이 정성적으로 다름을 보이며, 후자의 경우 정확도 향상이 없는 훈련에서는 편향에 더 민감하게 반응한다.
• 보조 생성기가 주 복원 네트워크의 정확도 향상에 기여하는 효과적인 적대적 예제를 성공적으로 생성하였다.
• 이론적 분석은 min-max 공식화 하에서 최적 해가 특이값 필터링이 포함된 정규화된 해에 해당함을 확인하며, 이는 본 방법의 체계적인 기반을 제공한다.