[논문 리뷰] Disentangling Abstraction from Statistical Pattern Matching in Human and Machine Learning

Sreejan Kumar, Ishita Dasgupta외 3명|arXiv (Cornell University)|2022. 04. 04.

Reinforcement Learning in Robotics인용 수 6

한 줄 요약

이 논문은 인간과 기계 학습에서 진정한 추상화와 통계적 패턴 매칭을 구분하기 위한 새로운 방법을 제안한다. 이를 위해 동일한 통계적 특성을 가지지만 배경 규칙이 다른 '작업 메타머'를 구성한다. 인간은 추상적 작업에서 통계적 메타머보다 더 잘 일반화하는 반면, 신경망은 추상적 작업에서 메타머보다 성능이 떨어지는 경향을 보이며, 이는 학습 메커니즘의 근본적인 차이를 드러낸다.

ABSTRACT

The ability to acquire abstract knowledge is a hallmark of human intelligence and is believed by many to be one of the core differences between humans and neural network models. Agents can be endowed with an inductive bias towards abstraction through meta-learning, where they are trained on a distribution of tasks that share some abstract structure that can be learned and applied. However, because neural networks are hard to interpret, it can be difficult to tell whether agents have learned the underlying abstraction, or alternatively statistical patterns that are characteristic of that abstraction. In this work, we compare the performance of humans and agents in a meta-reinforcement learning paradigm in which tasks are generated from abstract rules. We define a novel methodology for building "task metamers" that closely match the statistics of the abstract tasks but use a different underlying generative process, and evaluate performance on both abstract and metamer tasks. We find that humans perform better at abstract tasks than metamer tasks whereas common neural network architectures typically perform worse on the abstract tasks than the matched metamers. This work provides a foundation for characterizing differences between humans and machine learning that can be used in future work towards developing machines with more human-like behavior.

연구 동기 및 목표

• 메타강화학습에서 신경망이 추상 규칙을 학습하는지 아니면 단지 통계적 패턴을 학습하는지 조사하기 위해.
• 동일한 통계적 특성을 유지하지만 다른 생성 규칙을 가진 작업 메타머를 생성하는 방법을 개발하기 위해.
• 추상적 작업과 그 통계적으로 매칭된 메타머 간의 인간과 신경망의 성능을 비교하기 위해.
• 인간의 추상화가 진정한 규칙 학습에서 비롯되는지 아니면 통계적 상관관계에서 비롯되는지 규명하기 위해.
• 기계 학습 모델에서 진정한 추상화의 존재를 평가하기 위한 프레임워크를 제공하기 위해.

제안 방법

• 저자는 관계적 또는 구성적 구조와 같은 추상 규칙에서 유도된 작업을 사용하는 메타강화학습 설정을 설계한다.
• 그들은 '작업 메타머'를 도입한다 — 원래의 추상적 작업과 동일한 통계 분포를 가지지만, 비추상적인 방식으로 생성된 합성 작업이다.
• 이 방법은 원래의 추상적 작업과 그 메타머 간의 통계적 특성(예: 행동가치 분포, 상태 전이)이 식별할 수 없도록 보장한다.
• 일반화에서 추상화의 역할을 분리하기 위해, 추상적 작업과 그에 해당하는 메타머 양쪽 모두에서 성능을 평가한다.
• 신경망 에이전트는 이러한 작업의 분포에서 학습하고, 추상적 작업과 메타머 변형 모두에서 테스트한다.
• 인간 참가자들도 동일한 작업 세트에서 테스트되어 종간 일반화 행동을 비교한다.

실험 결과

연구 질문

• RQ1 신경망 에이전트가 추상적 작업으로 일반화하는 이유가 배경 규칙을 학습했기 때문이지, 통계적 규칙성 때문인가요?
• RQ2 인간은 추상적 작업과 그 통계적 메타머를 신뢰성 있게 구별할 수 있나요?
• RQ3 인간과 신경망 모두에서 추상적 작업 성능과 통계적으로 매칭된 메타머 성능를 비교할 때 어떤 차이가 있나요?
• RQ4 신경망이 규칙 기반 추상화보다 통계적 패턴에 얼마나 의존하는가요?
• RQ5 작업 메타머는 기계 학습 모델에서 추상화를 진단하는 데 도구로 사용될 수 있나요?

주요 결과

• 인간은 통계적 메타머보다 추상적 작업에서 유의미하게 더 뛰어난 성능을 보이며, 이는 규칙 기반 추상화에 의존하고 있음을 시사한다.
• 신경망 에이전트는 매칭된 메타머보다 추상적 작업에서 성능이 열 劣하므로, 통계적 패턴을 활용하고 있음을 시사한다.
• 추상적 작업과 메타머 작업 간의 성능 격차는 인간의 경우 신경망보다 훨씬 크며, 이는 학습 메커니즘의 핵심적인 차이를 드러낸다.
• 작업 메타머는 생성 구조를 변경하면서도 통계적 특성을 성공적으로 유지하여, 진단 도구로의 유효성을 입증한다.
• 결과적으로 현재의 딥 러닝 모델은 일반화가 잘 된다고 보이더라도 진정한 추상화를 달성하지 못할 수 있음을 시사한다.
• 이 연구는 통계적 패턴 매칭이 일반화를 모방할 수 있음을 실증적으로 입증하며, AI에서 추상화 평가를 위한 새로운 방법이 필요함을 시사한다.