[論文レビュー] AI and the Everything in the Whole Wide World Benchmark

Inioluwa Deborah Raji, Emily M. Bender+3 more|arXiv (Cornell University)|Nov 26, 2021

Explainable Artificial Intelligence (XAI)被引用数 15

ひとこと要約

この論文は、一般的な知能の指標としての普及しているAIベンチマークの使用を、その人工的な範囲と一般性に関する誤った主張のため、本質的に欠陥があると批判する。AIベンチマークは、架空の『世界中のすべてのもの博物館』に類似しており、限られた範囲に限定され、文脈依存的であり、広範なAI能力を測定するには構成的に無効である。代わりに、体系的テストセット、行動テスト、アブレーション分析といった文脈に根ざした評価手法への移行を提案することで、AI評価の透明性と信頼性を向上させる。

ABSTRACT

There is a tendency across different subfields in AI to valorize a small collection of influential benchmarks. These benchmarks operate as stand-ins for a range of anointed common problems that are frequently framed as foundational milestones on the path towards flexible and generalizable AI systems. State-of-the-art performance on these benchmarks is widely understood as indicative of progress towards these long-term goals. In this position paper, we explore the limits of such benchmarks in order to reveal the construct validity issues in their framing as the functionally "general" broad measures of progress they are set up to be.

研究の動機と目的

• 広く採用されている少数のベンチマーク（例：GLUE、ImageNet）が一般AI能力を表しているという仮定に挑戦すること。
• 狭義で有限なベンチマークをAI分野の進歩を測る普遍的指標として扱う際の構成的妥当性の問題を暴露すること。
• これらのベンチマークに含まれる偏りや代表的でないデータが、人種的・文化的マイノリティグループにおけるモデル性能の格差を隠ぺいする方法を明らかにすること。
• 広範かつ誤解を招くベンチマークから、的を射た文脈特化型で、行動に基づいた評価技術に評価のパラダイムを転換することを提唱すること。
• ベンチマークを一般知能の代理指標ではなく、システム行動を理解するためのツールとして再定義すること。

提案手法

• 共通タスクフレームワーク（CTF）の歴史的発展を分析し、それが現代のベンチマークにどのように歪められて一般能力の代理として使われてきたかを検証すること。
• 架空の『世界中のすべてのもの博物館』とAIベンチマークとの間の概念的類似性を描き、これらが普遍的知能を表していると主張する一方で、本質的に有限で選択的であることを示すこと。
• 特定の失敗モードやバイアスを突き止めるために、体系的テストセット、監査、敵対的テストといった代替評価手法を提案すること。
• 集計スコアを超えたモデルの欠陥を明らかにするために、行動テスト（個別分析、対仮説的分析、誤差分析を含む）を提唱すること。
• モデル部品の寄与を分離し、その機能的役割を評価するためにアブレーションテストを導入すること。
• エネルギー消費、メモリ使用量、データ摂動への耐性といった、正確性を超えたシステム特性を評価するための直交的評価手法（プロファイル分析など）を提案すること。

実験結果

リサーチクエスチョン

• RQ1 なぜ広く使われているAIベンチマークは、広範な採用にもかかわらず、一般AI能力の有効な指標として機能しないのか？
• RQ2 ベンチマークを「一般的」としてフレーミングすることにより、AI評価における構成的妥当性にどのような問題が生じるのか？
• RQ3 ベンチマーク内の偏りや代表的でない訓練・テストデータは、人種的マイノリティグループ間でのモデル性能格差をどのように隠蔽するのか？
• RQ4 集計スコアを超えた意味のある洞察を提供する代替評価手法は何か？
• RQ5 評価慣行を、誤った一般性の感覚を助長するものから、透明性があり、文脈に配慮し、実行可能であるシステム分析を可能にするものにどのように転換できるか？

主な発見

• GLUE や ImageNet といった人気ベンチマークは、有限で文脈依存的かつしばしば恣意的な設計であるため、一般知能を代表するものではない。
• これらのベンチマークでのパフォーマンスが一般AIへの進歩を示すという主張は、構成的に無効であり、それらが主張するような広がりや適応性を測定していないからである。
• バイアスのかかっているベンチマークにおける集計スコアは、マイノリティグループ間でのモデル性能の顕著な格差を隠ぺいする可能性がある。
• 敵対的テスト、個別分析、対仮説的分析といった代替評価手法は、標準的なベンチマークでは見えない失敗モードやバイアスを明らかにする。
• アブレーションテストやシステム特性プロファイリング（例：エネルギー消費、メモリ使用量）は、正確性指標を超えて、モデルの行動と信頼性に関するより深い洞察を提供する。
• 研究分野は、普遍的ベンチマークの神話を捨て、透明性と説明責任を高めるために、的を射た文脈に配慮した評価フレームワークを採用すべきである。