[논문 리뷰] Learning explanations that are hard to vary

Giambattista Parascandolo, Alexander Neitz외 3명|arXiv (Cornell University)|2020. 09. 01.

Neural Networks and Applications참고 문헌 44인용 수 73

한 줄 요약

본 논문은 Invariant Learning Consistency(ILC)를 형식화하고, 환경 간 불변 설명 학습을 장려하기 위한 AND-mask 그래디언트 방법을 도입하여 암기 memorization를 줄이고 분포 외(out-of-distribution) 일반화를 향상시킨다.

ABSTRACT

In this paper, we investigate the principle that `good explanations are hard to vary' in the context of deep learning. We show that averaging gradients across examples -- akin to a logical OR of patterns -- can favor memorization and `patchwork' solutions that sew together different strategies, instead of identifying invariances. To inspect this, we first formalize a notion of consistency for minima of the loss surface, which measures to what extent a minimum appears only when examples are pooled. We then propose and experimentally validate a simple alternative algorithm based on a logical AND, that focuses on invariances and prevents memorization in a set of real-world tasks. Finally, using a synthetic dataset with a clear distinction between invariant and spurious mechanisms, we dissect learning signals and compare this approach to well-established regularizers.

연구 동기 및 목표

• 환경 간 일반화 가능한 불변 설명의 필요성을 제시하고, 얽매인 패턴 memorization을 피하고자 한다.
• 최소점 주변에서 손실 지형이 환경 간에 얼마나 강건한지 평가하는 일관성 측정치를 형식화한다.
• 불변성을 강조하기 위해 대체 그래디언트 집계 방법(AND-mask)을 제안하고 검증한다.
• 합성 및 실제 작업을 통해 ILC가 분포 외 일반화를 개선하고 암기를 저항할 수 있음을 보여준다.
• 제안된 접근법을 확립된 정규화 기법 및 도메인 적응 방법과 비교한다.

제안 방법

• 형식적 일관성 점수 I^ε(θ*)를 정의하여 최소값 근처에서 환경 간 손실 지형이 어떻게 다른지 측정한다.
• Invariant Learning Consistency(ILC)를 알고리즘의 수렴 해가 환경 간 얼마나 일관적인지의 기대값으로 도입한다.
• AND-mask를 제안한다: 환경 간 부호가 다르면 그래디언트 구성요소를 마스킹하여 환경 간의 암묵적 논리 AND를 가능하게 한다.
• τ 임계값으로 AND-mask를 구현하는 방법을 설명하고 표준 GD와 비교해 계산 효율성을 보존함을 보인다.
• 해당 방법을 Hessian의 기하평균과 연결지어 그래디언트 방향의 불일치를 감소시킨다는 개념적 근거를 제시한다.

실험 결과

연구 질문

• RQ1 환경 간 일반화하는 해를 식별하기 위해 일관성 측정치를 정의할 수 있는가?
• RQ2 AND와 같은 연산을 통한 그래디언트 집계가 불변성을 촉진하고 암기를 줄이는가?
• RQ3 불변 기작과 단서(쇼트컷)가 있는 합성 작업에서 ILC와 AND-mask는 표준 정규화 기법들에 비해 어떤 성능을 보이는가?
• RQ4 실제 작업인 CIFAR-10의 무작위 레이블 및 CoinRun 행동 복제에서 이 접근법이 분포외 일반화를 개선하는가?

주요 결과

• AND-mask 그래디언트 방법은 환경 간 일관되지 않는 그래디언트 구성요소를 마스킹하여 일관성을 증가시킨다.
• AND-mask는 환경별 지름길에 의존하는 합성 작업에서 암기 memorization를 방지할 수 있다.
• 무작위 레이블이 있는 CIFAR-10에서 AND-mask는 암기를 방지하면서 일반적으로 레이블이 있는 데이터에 대한 성능을 보존한다.
• CoinRun 행동 복제 설정에서 AND-mask는 보이지 않는 레벨로의 일반화를 향상시킨다.
• 표준 학습은 학습 속도를 최대화하는 경향이 있어 불변 학습을 희생할 수 있으며, ILC는 불변성을 위해 학습 속도와의 타협을 한다.