[논문 리뷰] Towards Understanding How Machines Can Learn Causal Overhypotheses

Eliza Kosoy, David M. Chan외 8명|arXiv (Cornell University)|2022. 06. 16.

Bayesian Modeling and Causal Inference인용 수 10

한 줄 요약

이 논문은 인과적 초개념(예: 병진적 또는 배타적 관계와 같은 인과적 구조에 대한 추상적이고 이식 가능한 가정)을 학습하는 데 있어 기계 학습 모델의 성능을 평가하기 위한 블리킷 디텍터 환경을 소개한다. 표준 작업에서는 뛰어난 성능를 보이지만, 딥 강화학습, 행동 클로닝, 대규모 언어 모델(LM; 예: PaLM, GPT-3)과 같은 최신 모델들은 명시적인 가정이 없이, 특히 제로샷 또는 소수의 샘플 설정에서 일반화하거나 효과적으로 추론하지 못함을 보여주며, 어린이와 비교해 인공 에이전트의 인과적 추론 능력에 심각한 격차가 있음을 드러낸다.

ABSTRACT

Recent work in machine learning and cognitive science has suggested that understanding causal information is essential to the development of intelligence. The extensive literature in cognitive science using the ``blicket detector'' environment shows that children are adept at many kinds of causal inference and learning. We propose to adapt that environment for machine learning agents. One of the key challenges for current machine learning algorithms is modeling and understanding causal overhypotheses: transferable abstract hypotheses about sets of causal relationships. In contrast, even young children spontaneously learn and use causal overhypotheses. In this work, we present a new benchmark -- a flexible environment which allows for the evaluation of existing techniques under variable causal overhypotheses -- and demonstrate that many existing state-of-the-art methods have trouble generalizing in this environment. The code and resources for this benchmark are available at https://github.com/CannyLab/casual_overhypotheses.

연구 동기 및 목표

• 기계 학습 모델이 인과적 초개념—즉, 인과적 구조에 대한 추상적이고 이식 가능한 가정—을 학습하고 적용하는 능력을 평가할 수 있는 벤치마크 환경을 개발하는 것.
• 기존 표준 작업에서는 뛰어난 성능를 보이지만, 분포 외 환경에서 일반화하지 못하는 현재 최신 모델들의 실패 원인을 조사하는 것.
• 어린이가 극히 적은 데이터로부터 이러한 초개념을 신속히 추론하는 것과 비교해, 기계 학습 에이전트의 인과적 초개념 학습 능력을 평가하는 것.
• 인과적 구조가 주어지지 않았을 때, 특히 탐색, 가정 생성, 불확실성 추론 측면에서 기존 방법의 한계를 규명하는 것.
• 인과적 표현 학습 및 체계적 일반화 분야의 연구를 촉진하기 위해 재현 가능한 벤치마크를 제공하는 것(코드 및 데이터 포함)

제안 방법

• 인지과학에서 사용하는 블리킷 디텍터 환경를 변형하여, 특정 인과적 조합(예: 병진적 또는 배타적)일 때만 기계가 켜지는 환경를 구성한다.
• 에이전트가 관찰 자료의 희소성에 기반해 인과 관계가 병진적(두 개의 물체가 모두 필요)인지, 배타적(어느 한 물체로도 충분)인지를 추론해야 하는 작업을 설계한다.
• 딥 강화학습(예: Decision Transformer), 행동 클로닝, 대규모 언어 모델(GPT-3, PaLM)의 세 가지 유형의 모델을 제로샷 및 소수의 샘플 설정에서 평가한다.
• 언어 모델에 대해 자유형 및 소수의 샘플 프롬프트를 사용하며, 인과적 구조에 대한 사전 가정이 있는지 여부에 따라 비교한다.
• 인과적 구조 추론 능력과 탐색 행동을 측정하여, Kosoy 등(2022)에서 보고한 어린이의 성능과 비교한다.
• 재현 가능한 평가를 위해 https://github.com/CannyLab/casual_overhypotheses 에서 접근 가능한 유연하고 오픈소스의 벤치마크를 제공한다.

실험 결과

연구 질문

• RQ1 기계 학습 모델은 명시적 지도 없이도 극히 적은 관찰 데이터로부터 인과적 초개념(예: 병진적 또는 배타적 구조)을 추론할 수 있는가?
• RQ2 인과적 초개념이 제공되지 않았을 때, 딥 강화학습 및 암시적 학습 에이전트는 새로운 인과적 구조를 탐색하고 일반화하는 데 얼마나 잘 성과를 내는가?
• RQ3 대규모 언어 모델(LM; 예: PaLM, GPT-3)은 관찰 데이터만 제공받고 사전 가정이 없을 경우 인과적 구조를 얼마나 잘 추론할 수 있는가?
• RQ4 왜 현재의 모델들은 어린이가 몇 차례의 시행만으로도 인과적 초개념을 신속히 학습하고 적용하는 능력을 따라잡지 못하는가?
• RQ5 인과적 초개념을 명시적으로 모델링하면 강화학습 에이전트의 탐색 및 일반화 능력이 향상될 수 있는가?

주요 결과

• 딥 강화학습 에이전트(예: Decision Transformer)는 인과적 초개념이 제공되지 않았을 경우 탐색을 부족하게 하며, 보류된 환경로에 대해 일반화하지 못한다.
• PaLM 및 GPT-3와 같은 대규모 언어 모델은 인과적 구조에 대한 명시적 가정이 있을 경우 높은 정확도(예: 2/2 정답)를 달성하지만, 데이터만으로 구조를 추론하도록 요청받을 경우 실패한다.
• 가정이 주어지지 않은 조건에서 PaLM은 배타적 작업에서 0/1 정답, 병진적 작업에서 1/2 정답을 기록하여, 지도 없이 구조 추론을 하기 어려운 것을 보여준다.
• 완전한 훈련 데이터와 예시가 제공된 상태에서도 언어 모델은 가정이 없을 경우 불확실성을 표현하거나 올바른 인과적 구조를 추론하는 데 어려움을 겪으며, 이는 인과적 추론 능력의 부족함을 시사한다.
• 반면 어린이는 극히 적은 관찰 자료로부터 초개념을 신속히 학습하고 이를 활용해 탐색 및 인과적 구조 추론을 수행하며, 현재의 모델들을 능가한다.
• 벤치마크는 인과적 추론의 심각한 격차를 드러내며, 현재의 모델들은 효과적인 탐색과 일반화를 위해 추상적 인과적 초개념을 생성하고 활용하는 능력을 갖추지 못하고 있음을 보여준다.