[논문 리뷰] AI and the Everything in the Whole Wide World Benchmark

Inioluwa Deborah Raji, Emily M. Bender외 3명|arXiv (Cornell University)|2021. 11. 26.

Explainable Artificial Intelligence (XAI)인용 수 15

한 줄 요약

이 논문은 일반 지능의 보편적 척도로 여겨지는 인기 있는 AI 벤치마크의 사용을 비판하며, 이들이 본질적으로 인위적인 범위와 잘못된 일반성 주장으로 인해 근본적으로 결함이 있음을 지적한다. 이들은 '전 세계 박물관에 있는 모든 것'이라는 허구의 예술관과 유사하게, 국한된 범위에 국한되고 맥락에 따라 좌우되는, 일반적인 AI 능력을 측정하는 데 있어 구조적으로 타당성이 없는 것으로 분석된다. 따라서 이 논문은 평가의 투명성과 신뢰성을 높이기 위해 체계적 테스트 세트, 행동 테스트, 분석 분해 분석과 같은 맥락 기반 평가 방법으로의 전환을 제안한다.

ABSTRACT

There is a tendency across different subfields in AI to valorize a small collection of influential benchmarks. These benchmarks operate as stand-ins for a range of anointed common problems that are frequently framed as foundational milestones on the path towards flexible and generalizable AI systems. State-of-the-art performance on these benchmarks is widely understood as indicative of progress towards these long-term goals. In this position paper, we explore the limits of such benchmarks in order to reveal the construct validity issues in their framing as the functionally "general" broad measures of progress they are set up to be.

연구 동기 및 목표

• 일부 널리 채택된 벤치마크(예: GLUE, ImageNet)가 일반 AI 능력을 대표한다고 보는 가정을 도전한다.
• 좁고 유한한 벤치마크를 AI 발전의 보편적 척도로 간주함으로써 발생하는 구성 타당성 문제를 드러낸다.
• 이러한 벤치마크에 포함된 편향되거나 대표성이 없는 데이터가 다양한 인구 집단 간 모델 성능 격차를 가리키지 못하게 하는 방식을 강조한다.
• 광범위하고 오해의 소지가 있는 벤치마크에서 타겟팅된, 맥락에 기반한, 행동 중심의 평가 기법으로의 평가 철학 전환을 옹호한다.
• 벤치마크를 일반 지능의 대체 척도가 아니라, 시스템 행동을 이해하는 도구로 재정의한다.

제안 방법

• 공통 과제 프레임워크(CTF)의 역사를 분석하고 현대의 벤치마크로의 진화 과정을 다루며, 이들이 일반 능력의 대리자로 잘못 사용된 방식을 분석한다.
• 허구의 '전 세계 박물관에 있는 모든 것'과 AI 벤치마크가 보편적 지능을 대표한다고 주장하지만 본질적으로 유한하고 선택적인 성격을 지닌다는 개념적 유사성을 제시한다.
• 특정 실패 모드와 편향을 탐지하기 위해 체계적 테스트 세트, 감사, 공격적 테스트와 같은 대안 평가 방법을 제안한다.
• 집계 점수를 넘어서는 모델의 한계를 드러내기 위해 분해 분석, 반사적 분석, 오류 분석을 포함한 행동 테스트를 옹호한다.
• 모델 구성 요소의 기여도를 분리하여 그들의 功能적 역할을 평가하기 위해 분석 분해 테스트를 도입한다.
• 에너지 소비, 메모리 소비, 데이터 변형에 대한 강건성 등 정확도 외의 시스템 특성을 평가하기 위해 수직 평가 기법(예: 프로파일링)을 제안한다.

실험 결과

연구 질문

• RQ1 왜 널리 사용되는 AI 벤치마크는 광범위한 수용에도 불구하고 일반 AI 능력의 타당한 척도로 기능하지 못하는가?
• RQ2 벤치마크를 '일반적'이라고 프레임화하는 방식이 AI 평가에서 구성 타당성 문제를 어떻게 야기하는가?
• RQ3 벤치마크의 훈련 및 테스트 데이터에 편향되거나 대표성이 없는 요소가 다양한 인구 집단 간 모델 성능 격차를 어떻게 가리키는가?
• RQ4 집계된 벤치마크 점수보다 더 유의미한 통찰을 제공할 수 있는 대안 평가 방법은 무엇인가?
• RQ5 어떻게 평가 관행을 잘못된 일반성의 오해를 조장하는 방식에서, 투명하고 맥락 인식적이며 실천 가능한 시스템 분석을 가능하게 하는 방식으로 전환할 수 있는가?

주요 결과

• GLUE나 ImageNet 같은 인기 벤치마크는 그 자체로 유한하고 맥락에 국한되며 종종 임의적인 설계를 지녀 일반 지능을 대표하지 못한다.
• 이러한 벤치마크에서의 성능이 일반 AI 향한 진전을 의미한다는 주장은 구성적으로 타당성이 없으며, 이들이 주장하는 넓이 또는 적응 능력을 측정하지 못한다.
• 편향된 벤치마크에서의 집계 성능 점수는 대표성이 부족한 인구 집단 간 모델 성능 격차를 가리킬 수 있다.
• 공격적 테스트, 분해 분석, 반사적 분석과 같은 대안 평가 방법은 기존의 벤치마크에서는 드러나지 않는 실패 모드와 편향을 드러낸다.
• 분석 분해 테스트와 시스템 성능 프로파일링(예: 에너지 소비, 메모리 소비)은 정확도 지표를 넘어서 모델 행동과 신뢰성에 대한 깊이 있는 통찰을 제공한다.
• 학계는 보편적 벤치마크의 환상에서 벗어나, 타겟팅된, 맥락 인식 평가 프레임워크를 도입하여 AI 개발의 투명성과 책임성을 향상시켜야 한다.