[논문 리뷰] Fighting Fire with Fire: Avoiding DNN Shortcuts through Priming

Chuan Wen, Jianing Qian외 4명|arXiv (Cornell University)|2022. 06. 22.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 도메인 지식 기반 보조 신호를 주입함으로써 딥 네ural 네트워크(DNNs)가 배경을 분류하는 것과 같은 비합리적인 단서를 학습하는 것을 방지하기 위해 '프라밍(priming)'이라고 부르는 단순하면서도 효과적인 방법을 제안한다. 주요 입력 특징(예: 두드러진 전경 또는 최근 프레임)에서 유도된 프라밍 변수를 사용하여 DNN을 훈련시킴으로써, 모델은 더 견고하고 작업에 관련된 표현을 학습하게 되며, 이미지 분류, 이민화 학습, 자율 주행 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Across applications spanning supervised classification and sequential control, deep learning has been reported to find "shortcut" solutions that fail catastrophically under minor changes in the data distribution. In this paper, we show empirically that DNNs can be coaxed to avoid poor shortcuts by providing an additional "priming" feature computed from key input features, usually a coarse output estimate. Priming relies on approximate domain knowledge of these task-relevant key input features, which is often easy to obtain in practical settings. For example, one might prioritize recent frames over past frames in a video input for visual imitation learning, or salient foreground over background pixels for image classification. On NICO image classification, MuJoCo continuous control, and CARLA autonomous driving, our priming strategy works significantly better than several popular state-of-the-art approaches for feature selection and data augmentation. We connect these empirical findings to recent theoretical results on DNN optimization, and argue theoretically that priming distracts the optimizer away from poor shortcuts by creating better, simpler shortcuts.

연구 동기 및 목표

• 분포 이탈 상황에서 실패하는 DNN의 비합리적 단서 학습 문제를 해결하기 위해.
• 도메인 지식 기반 프라밍 신호를 통합함으로써 DNN 최적화가 더 견고하고 일반화 가능한 해로 향하도록 이끌 수 있는지 조사하기 위해.
• 근사된 핵심 입력 특징 기반 프라밍이 기존 최신 기술 수준의 방법보다 특징 선택 및 데이터 증강에서 뛰어난 성능을 보일 수 있음을 입증하기 위해.
• 프라밍이 나쁜 국소 최적화 해를 피하는 데 어떻게 기여하는지 이론적 근거를 제공하기 위해.

제안 방법

• 핵심 입력 특징(예: 이미지의 두드러진 전경 또는 순차적 작업에서의 최근 관측치)에서 유도된 '프라밍' 신호를 도메인 지식을 활용해 도입하기.
• 전체 입력과 함께 프라밍 변수를 함께 엔드 투 엔드로 훈련시켜, 주의를 관련 입력 영역으로 향하게 하는 감독 신호로 기능하게 하기.
• 작은 백본 또는 히우리스틱을 통해 목표 레이블의 근사치를 구해 핵심 입력에서 프라밍 변수를 생성하기.
• NICO 이미지 분류, MuJoCo 연속 제어, CARLA 자율 주행의 세 가지 설정에서 방법을 적용하기.
• 프라밍 신호는 정확할 必須는 아니며, 대부분의 경우에 작업에 관련된 정보를 포함할 가능성이 있으면 충분하다.
• 이론적 분석을 통해 프라밍이 NTK와 선형화 이론과 연결되며, 손실 곡면에서 더 단순하고 최적화가 잘 된 경로를 만든다는 것을 보여준다.

실험 결과

연구 질문

• RQ1 핵심 입력 특징 기반의 단순한 프라밍 신호를 주입함으로써 DNN의 일반화 능력 향상과 단서 학습 감소를 달성할 수 있는가?
• RQ2 분포 이탈 실패를 방지하는 데 있어 프라밍은 최신 기술 수준의 데이터 증강 및 특징 선택 기법보다 어떻게 비교되는가?
• RQ3 프라밍이 최적화 기구가 나쁜 국소 최적화 해를 피하는 데 작용하는 이론적 메커니즘은 무엇인가?
• RQ4 프라밍 신호가 불완전하거나 가끔 잘못되었을 경우에도 이 방법은 여전히 효과적인가?
• RQ5 이 방법은 이미지 분류, 이민화 학습, 자율 주행과 같은 다양한 작업에 효과적으로 적용될 수 있는가?

주요 결과

• 제안된 프라밍 방법은 NICO 이미지 분류, MuJoCo 연속 제어, CARLA 자율 주행 벤치마크에서 최신 기술 수준의 데이터 증강 및 특징 선택 기법보다 뚜렷이 뛰어난 성능을 보였다.
• NICO 데이터셋에서 프라밍은 모델이 객체 대신 배경을 기반으로 분류하는 단서 학습을 줄여, 주의를 두드러진 전경으로 유도했다.
• CARLA 자율 주행 환경에서는 프라밍이 모델이 이전 행동을 그대로 복사하는 '복사 고양이' 행동을 방지하여, 새로운 교통 신호에 적절히 반응하도록 했다.
• 실험 결과에 따르면, 조잡한 프라밍 신호를 사용하더라도 프라밍은 분포 이탈 상황에서도 더 견고한 일반화를 이끌어냈다.
• 이론적 분석은 프라밍이 손실 곡면에서 더 단순하고 잘 구조화된 최적화 경로를 만들며, 나쁜 단서로 수렴할 가능성을 줄인다는 것을 시사한다.
• 이 방법은 구현이 단순하고 엔드 투 엔드로 훈련 가능하며, 아키텍처 변경 없이 다양한 실제 응용 분야에서 효과를 발휘한다.