[논문 리뷰] CRASS: A Novel Data Set and Benchmark to Test Counterfactual Reasoning of Large Language Models

Jörg Frohberg, Frank Binder|arXiv (Cornell University)|2021. 12. 22.

Topic Modeling인용 수 9

한 줄 요약

이 논문은 대규모 언어 모델(Large Language Models, LLMs)의 일반적 상식 추론 능력을 평가하기 위해 질문화된 가상 조건문(questionized counterfactual conditionals)을 사용하는 새로운 벤치마크인 CRASS를 소개한다. 이는 인류가 검증한 기준 성능을 제시하며, 심지어 최첨단 LLMs조차도 인간 성능보다 25퍼센트 이상 떨어지는 결과를 보이며, 가상 조건문 추론 능력에 있어 뚜렷한 격차가 있음을 드러낸다.

ABSTRACT

We introduce the CRASS (counterfactual reasoning assessment) data set and benchmark utilizing questionized counterfactual conditionals as a novel and powerful tool to evaluate large language models. We present the data set design and benchmark that supports scoring against a crowd-validated human baseline. We test six state-of-the-art models against our benchmark. Our results show that it poses a valid challenge for these models and opens up considerable room for their improvement.

연구 동기 및 목표

• 대규모 언어 모델(LLMs)의 고급 일반적 상식 추론 능력을 평가하기 위한 견고한 벤치마크 부족 문제를 해결하기 위해.
• 인과 추론과 가상 상황 추론을 테스트하기 위해 질문화된 가상 조건문(QCC) 기반의 새로운 평가 프레임워크를 개발하기 위해.
• 가상 조건문 추론 작업에서 LLM 성능을 측정하기 위한 인간이 작성한, 커뮤니티 검증을 거친 기준 성능을 수립하기 위해.
• 현재 최첨단 LLMs의 한계를 드러내기 위해 실제로 발생하지 않은 사건에 대한 추론 능력에 도전하기 위해.
• 엄격하게 설계된, 수용된 벤치마크 과제를 제공함으로써 BIG-bench 이니셔티브에 기여하기 위해.

제안 방법

• CRASS 벤치마크는 질문화된 가상 조건문(QCC)을 사용하며, 가상의 상황이 질문 형태로 제시된다. 예를 들어, '나무가 쓰러지지 않았다면 어떤 일이 일어났을까?'와 같은 식이다.
• 각 QCC는 실제 세계의 사건 흐름에 기반하며, 전행은 실제 발생하지 않은 원인을, 후행은 잠재적인 영향을 묘사한다.
• 모델가 실제로 일어나지 않은 가상의 사건의 결과를 추론하도록 요구함으로써 인과 추론 능력을 테스트하도록 설계되어 있다.
• 인과 모델이 암묵적으로 가정되며, 모델는 가상의 전행 조건에 기반해 가장 가능성 있는 결과를 추론해야 하며, 확률 최대화 원칙을 사용한다: o* = argmaxₒ P(o|a).
• 인간이 작성한 정답을 통해 인간의 일반적 상식와 일치하도록 데이터셋을 구성함으로써 금표 기준 기준 성능을 확보한다.
• 벤치마크는 BIG-bench 스위트에 통합되어 여러 LLMs 간 표준화된 평가를 가능하게 한다.

실험 결과

연구 질문

• RQ1 최첨단 대규모 언어 모델은 실제로 발생하지 않은 가상의 상황에 대해 얼마나 잘 추론할 수 있는가?
• RQ2 LLMs는 관찰된 데이터를 초월해 인과 추론을 일반화하는 데 얼마나 실패하는가, 특히 가상의, 실제가 아닌 상황에서?
• RQ3 LLMs의 가상 조건문 추론 성능은 인간 기준 성능과 비교해 어떻게 되는가?
• RQ4 질문화된 가상 조건문 기반의 벤치마크는 기존의 NLP 벤치마크를 넘어서 LLM 추론의 한계를 효과적으로 드러낼 수 있는가?
• RQ5 인간과 모델 간의 가상 조건문 추론 성능 격차는 무엇이며, 이 격차는 다양한 모델 아키텍처 간에 일관된가?

주요 결과

• CRASS 벤치마크는 테스트된 최첨단 대규모 언어 모델들조차도 가상 조건문 추론 과제에서 인간 성능에 크게 뒤처지는 것으로 드러났다.
• 평균적으로 LLMs는 인간 검증 기준 성능 대비 25퍼센트 이상의 성능 격차를 보이며, 향후 개선 여지가 크다는 것을 시사한다.
• 벤치마크는 특히 알려진 사실과 모순되는 가상의 사건을 다룰 때 인과 추론의 체계적 실패를 효과적으로 특정한다.
• 특히 인과적 의존성이 복잡할 경우, 모델는 실제로 일어나지 않은 사건에 대해 논리적 일관성을 유지하는 데 실패하는 경향이 있다.
• 결과적으로 현재의 LLMs는 대체 인과 경로에 대한 추론 능력에 어려움을 겪으며, 내부의 인과 세계 모델에 한계가 있음을 확인한다.
• 벤치마크는 BIG-bench 스위트에 수용되어 표준화되고 공동체에서 인정받는 평가 도구로서의 유용성을 검증받았다.