[논문 리뷰] EnD: Entangling and Disentangling deep representations for bias correction

Enzo Tartaglione, Carlo Alberto Barbano외 1명|arXiv (Cornell University)|2021. 03. 02.

Adversarial Robustness in Machine Learning참고 문헌 45인용 수 75

한 줄 요약

이 논문은 깊이 있는 신경망의 편향을 보정하기 위해 동일한 목표 클래스에서 유래한 특징을 엔터티화하고, 동일한 편향 레이블을 공유하는 특징을 분리시키는 정보 볼록구조를 네트워크 계층에서 사용하는 regularization 방법 EnD를 제안한다. 이 방법은 추가적인 학습 복잡도 없이 편향이 없는 테스트 세트에서 일반화 성능을 향상시키며, IMDB 및 CORDA-CDSS와 같은 편향된 데이터셋에서 코로나19 체질 흉부 X-ray 분류 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Artificial neural networks perform state-of-the-art in an ever-growing number of tasks, and nowadays they are used to solve an incredibly large variety of tasks. There are problems, like the presence of biases in the training data, which question the generalization capability of these models. In this work we propose EnD, a regularization strategy whose aim is to prevent deep models from learning unwanted biases. In particular, we insert an "information bottleneck" at a certain point of the deep neural network, where we disentangle the information about the bias, still letting the useful information for the training task forward-propagating in the rest of the model. One big advantage of EnD is that we do not require additional training complexity (like decoders or extra layers in the model), since it is a regularizer directly applied on the trained model. Our experiments show that EnD effectively improves the generalization on unbiased test sets, and it can be effectively applied on real-case scenarios, like removing hidden biases in the COVID-19 detection from radiographic images.

연구 동기 및 목표

• 의료 영상과 같은 실제 응용 분야에서 훈련 데이터의 은폐된 편향으로 인한 모델 일반화 실패 문제를 해결한다.
• 데이터를 수정하거나 모델에 학습 가능한 구성 요소를 추가하지 않고도 편향을 보정할 수 있는 regularization 전략을 개발한다.
• 데이터 출처나 인구 통계적 특성과 같은 편향 요인과 연결된 유사 상관관계에 의존하는 것을 막기 위해 작업에 관련된 특징을 학습하도록 유도한다.
• 실제 편향된 환경과 고도로 편향된 데이터셋에서의 효과를 입증한다. 특히 흉부 X-ray에서 코로나19 진단을 위한 응용 사례를 포함한다.
• 학습 후 적용 가능한 후행적이고 모델 독립적인 regularization 기법을 제공하여 편향 전파를 완화한다.

제안 방법

• 학습된 깊이 신경망의 특정 계층 Γ에 regularizer를 적용하여 정보 볼록구조를 생성한다.
• 동일한 목표 클래스에 속하는 샘플의 깊이 특징 표현을 엔터티화하여 작업에 관련된 정보를 유지한다.
• 동일한 편향 레이블(예: 데이터 출처 또는 연령대)을 공유하는 샘플의 깊이 특징 표현을 분리시켜 유사 상관관계를 억제한다.
• 표준 역전파를 통해 regularizer를 최적화하며, 추가적인 학습이나 보조 모델이 필요하지 않다.
• 편향된 특징과 최종 예측 간의 상호정보를 최소화하도록 regularizer를 사용하여 편향 없는 표현을 선호한다.
• 훈련 중 손실 함수에 regularizer를 통합하여, 모델이 편향된 특징을 피하면서도 주 작업 성능을 유지하도록 유도한다.

실험 결과

연구 질문

• RQ1 딥 모델에서 작업에 관련된 표현을 유지하면서도 편향 관련 특징을 분리시킬 수 있는 regularizer를 설계할 수 있는가?
• RQ2 제안된 EnD 방법이 재학습이나 데이터 수정 없이도 편향 없는 테스트 세트에서 모델의 일반화 성능을 향상시키는가?
• RQ3 편향이 명시적으로 알려지지 않은 경우(예: 의료 영상에서의 데이터 출처나 영상 잡음 등), EnD는 얼마나 효과적으로 편향을 보정하는가?
• RQ4 실제로 매우 편향된 상황에서 기존의 편향 제거 기법(예: 적대적 훈련 또는 특징 복원)보다 EnD가 우수한 성능을 보이는가?
• RQ5 EnD는 Grad-CAM과 같은 시각화 기법에서 관련 해부학적 영역에 집중함으로써 더 견고하고 해석 가능한 주의 맵을 제공하는가?

주요 결과

• IMDB Face 데이터셋에서, EB1에서 훈련한 EnD는 EB1 테스트 세트에서 성별 예측 정확도를 57.84%에서 69.40%로 향상시키고, EB2에서 59.86%에서 65.49%로 향상시켜 베이스라인 및 이전 방법을 초월했다.
• 연령 예측에서, EB2에서 훈련한 EnD는 EB1 테스트 세트에서 성능을 48.91%에서 74.25%로 향상시켜 성별 기반 편향을 강력하게 완화함을 보였다.
• CORDA-CDSS 데이터셋에서 EnD는 진성 음성률을 59.26%에서 76.30%로, 균형 잡힌 정확도를 64.63%에서 72.22%로 향상시켜 데이터 출처 편향을 감소시켰다.
• CORDA-SLG에서 EnD는 진성 양성률을 52.14%에서 68.37%로, 균형 잡힌 정확도를 69.88%에서 75.94%로 향상시켜 다양한 데이터 출처에서의 강건성을 향상시켰다.
• Grad-CAM 시각화 결과, EnD-정규화된 모델은 관련된 폐 영역에 집중하는 반면, 일반적인 모델은 관련 없는 잡음에 집중함을 확인하여 해석 가능성 향상을 입증했다.
• 특히 편향이 심한 설정(예: Biased MNIST와 IMDB에서 ρ = 0.999)에서 BlindEye 및 Kim et al. [16]와 같은 기존 방법들에 비해 EnD가 최신 기술 수준의 성능을 달성했다.