[논문 리뷰] Distinguishing rule- and exemplar-based generalization in learning systems

Ishita Dasgupta, Erin Grant외 1명|arXiv (Cornell University)|2021. 10. 08.

Neural Networks and Applications인용 수 4

한 줄 요약

이 논문은 인지심리학에 영감을 받은 실험 프로토콜을 도입하여 기계학습 시스템에서 규칙 기반 일반화와 예시 기반 일반화를 구분한다. 특징 수준의 편향(일부 특징을 선호하는 경향)과 예시 대 규칙 편향(특징이 적은 대비 밀도 높은 표현을 사용하는 경향)이라는 두 가지 인도적 편향을 분리함으로써, 저자들은 표준 신경망이 둘 다 특징 편향을 가지며 예시 기반임을 입증하며, 체계적 일반화와 공정성에 대한 한계를 드러낸다.

ABSTRACT

Machine learning systems often do not share the same inductive biases as humans and, as a result, extrapolate or generalize in ways that are inconsistent with our expectations. The trade-off between exemplar- and rule-based generalization has been studied extensively in cognitive psychology; in this work, we present a protocol inspired by these experimental approaches to probe the inductive biases that control this tradeoff in category-learning systems. We isolate two such inductive biases: feature-level bias (differences in which features are more readily learned) and exemplar or rule bias (differences in how these learned features are used for generalization). We find that standard neural network models are feature-biased and exemplar-based, and discuss the implications of these findings for machine learning research on systematic generalization, fairness, and data augmentation.

연구 동기 및 목표

• 기계학습 시스템이 훈련 데이터를 초월해 일반화하는 방식을 규정짓는 두 가지 핵심 인도적 편향—특징 수준의 편향과 예시 대 규칙 편향—을 식별하고 분리하는 것.
• 인지심리학에 영감을 받은 실험 프로토콜을 개발하여 이러한 편향을 통제되고 진단 가능한 방식으로 탐구하는 것.
• 표준 기계학습 모델들(예: 신경망, 가우시안 프로세스)이 합성 데이터, 이미지, 텍스트 영역에서 이러한 편향을 어떻게 나타내는지 평가하는 것.
• 기존의 평가 지표들(예: 최악의 그룹 정확도, 비의도적 상관관계)이 이러한 기초적인 인도적 편향을 포괄하지 못함을 입증하는 것.
• 이러한 편향이 기계학습에서 체계적 일반화, 공정성, 데이터 증강에 미치는 규범론적 함의를 탐색하는 것.

제안 방법

• 분류 기준이 되는 특징(예: 모양)이 카테고리 레이블을 결정하고, 원인적으로 관련이 없는 반복적인 특징(예: 색상)이 훈련 데이터에서 함께 나타나는 합성 데이터 생성 프로토콜 설계.
• 제어된 정규화와 커널 길이 척도 파rameter를 갖는 다양한 모델 패밀리 훈련 및 평가: 전방향 신경망(NNs), 선형 일반선형 모델(GLMs), 가우시안 프로세스(GPs).
• 모델이 훈련 예시의 유사성에 기반해 일반화하는지(예시 기반) 또는 추상적 규칙에 기반해 일반화하는지(규칙 기반)를 측정하기 위해 새로운 지표인 예시 대 규칙 경향성(EvR) 사용.
• 합성 데이터에서 동일한 특징 중요도를 확보하여 특징 수준의 편향을 제어함으로써 예시 대 규칙 편향의 고립을 가능하게 함.
• 실세계 영역(CelebA 및 IMDb)에 프로토콜를 적용하여 더 복잡하고 자연스러운 환경에서의 일반화 행동 평가.
• 명시적 규칙 기반 모델(예: L1 정규화가 적용된 선형 모델)과 예시 기반 모델(짧은 길이 척도를 가진 GPs)을 벤치마크로 사용하여 프로토콜의 타당성 검증.

실험 결과

연구 질문

• RQ1 어떻게 기계학습 시스템에서 특징 수준의 편향과 예시 대 규칙 편향이라는 두 가지 다른 인도적 편향을 분리하고 측정할 수 있는가?
• RQ2 표준 신경망이 카테고리 학습 과제에서 예시 기반 일반화와 특징 수준의 편향을 어느 정도 보이는가?
• RQ3 L1/L2 정규화와 커널 길이 척도 등의 모델 하이퍼파라미터가 모델의 예시 대 규칙 경향성에 어떤 영향을 미치는가?
• RQ4 기존의 공정성 및 일반화 평가 지표(예: 최악의 그룹 정확도, 비의도적 상관관계)는 모델의 기초 인도적 편향을 충분히 포괄하는가?
• RQ5 이러한 편향이 실세계 기계학습 응용에서 체계적 일반화, 공정성, 데이터 증강에 미치는 함의는 무엇인가?

주요 결과

• 표준 신경망은 강한 예시 기반 편향을 보이며, 추상적 규칙이 아닌 훈련 예시와의 유사성에 기반해 일반화한다.
• 신경망은 또한 특징 편향을 보이며, 두 특징이 동일하게 예측력이 있을지라도 특정 특징(예: 색상 대비 모양)을 선호하는 경향을 보인다.
• 일반선형 모델에서 L1 정규화는 예시 대 규칙 경향성을 0으로 줄이며, 이는 특징 희박성이 규칙 기반 행동을 유도함을 확인한다.
• 짧은 길이 척도 파rameter를 가진 가우시안 프로세스는 더 높은 예시 경향성을 보이며, 이는 국소적 결정 경계가 예시 기반 일반화를 촉진함을 확인한다.
• 제안된 EvR 지표는 다양한 모델 패밀리와 데이터 영역 간의 예시 기반과 규칙 기반 일반화 간의 상호보완적 관계를 성공적으로 측정한다.
• 기존의 지표들(예: 최악의 그룹 정확도, 비의도적 상관관계)은 기초 인도적 편향을 진단하지 못하며, 더 세밀한 평가 프로토콜의 필요성을 시사한다.