[論文レビュー] Evaluating Understanding on Conceptual Abstraction Benchmarks

Victor Vikram Odouard, Melanie Mitchell|arXiv (Cornell University)|Jun 28, 2022

Semantic Web and Ontologies被引用数 7

ひとこと要約

本論文は、標準的なIIDテストセットにおける正確性にとどまらず、抽象的概念に対するAIシステムの真の理解度を評価するための概念ベースの評価フレームワークを提案する。RAVENおよびARCベンチマークにおいて、『上/下』や『境界』といったコアな概念の多様なインスタンスを生成することで、ARC-Kaggle2のようなモデルが元のテストでは高い性能を示すものの、概念のバリエーションでは著しく性能を発揮しないことが明らかになった。これは、モデルが真正の抽象化や一般化能力を備えていないことを露呈するものである。

ABSTRACT

A long-held objective in AI is to build systems that understand concepts in a humanlike way. Setting aside the difficulty of building such a system, even trying to evaluate one is a challenge, due to present-day AI's relative opacity and its proclivity for finding shortcut solutions. This is exacerbated by humans' tendency to anthropomorphize, assuming that a system that can recognize one instance of a concept must also understand other instances, as a human would. In this paper, we argue that understanding a concept requires the ability to use it in varied contexts. Accordingly, we propose systematic evaluations centered around concepts, by probing a system's ability to use a given concept in many different instantiations. We present case studies of such an evaluations on two domains -- RAVEN (inspired by Raven's Progressive Matrices) and the Abstraction and Reasoning Corpus (ARC) -- that have been used to develop and assess abstraction abilities in AI systems. Our concept-based approach to evaluation reveals information about AI systems that conventional test sets would have left hidden.

研究の動機と目的

• AIシステムが表面的なパターンマッチングに依存するのではなく、抽象的概念を真正に理解しているかどうかを評価する課題に対処すること。
• 標準的なIIDテストセットがAIシステムの一般化能力や概念的理解度を測るうえで限界を示していることの暴露。
• 抽象化ベンチマークにおけるコアな概念の多様なインスタンスを用いた、AIモデルを系統的に検証する手法の開発。
• 標準ベンチマークで高い正確性を示しても、概念が言い換えられたり文脈が変わったりした場合に、それが強固な概念的理解を示すわけではないことの実証。
• 将来的な評価スイートの基盤を築くこと。これにより、複数の分野および概念にわたり、概念的理解を体系的にテストできるようにする。

提案手法

• RAVENやARCといった既存のベンチマークに存在するキーポイントとなる抽象的概念（例：『上/下』、『境界』）を特定し、概念ベースの評価セットを設計する。
• 空間的関係、オブジェクトの属性、変換ルールを変更することで、各概念の複数のバリエーションを生成するが、コアな概念的構造は維持する。
• 同じ根本的な概念を新たな文脈で問う新しいテスト問題を作成する。これにより、訓練分布に含まれないことを保証する。
• 元のベンチマークと同一の評価プロトコルを用いて、事前学習済みのAIモデル（例：ARC-Kaggle2）をこれらの概念バリエーションで評価する。
• 元のテストセットと概念固有のバリエーションにおけるモデルのパフォーマンスを比較し、概念的ロバストネスを評価する。
• バリエーションが意味的に意味があり、概念的に整合していることを保証するため、人間によるアノテート済みのルールを用いる。

実験結果

リサーチクエスチョン

• RQ1 同じ概念が新しい文脈で提示された場合、AIモデルは抽象的概念の理解をどの程度一般化できるか？
• RQ2 抽象化ベンチマークにおいて、概念バリエーションでのパフォーマンスは、標準的なIIDテストセットでのパフォーマンスと比べてどの程度異なるか？
• RQ3 概念ベースの評価は、標準的なベンチマークスコアでは明らかでない、AIシステムの隠れた弱みを明らかにできるか？
• RQ4 標準ベンチマークで良好な成績を収めるモデルは、深い概念的理解を備えているのか、それともデータセット固有のスキームに依存しているのか？
• RQ5 AIシステムの抽象化能力のロバストネスを効果的に検証できるように、どのように系統的な概念バリエーションを設計できるか？

主な発見

• ARC-Kaggle2は、元のARCテストセットで19%の正確性を示し、標準ベンチマークにおける中程度のパフォーマンスを示した。
• 『上/下』概念のバリエーションでは正確性が29%に向上し、この特定の分野では文脈の変化に対してある程度のロバストネスを示していることが示された。
• 『境界』概念のバリエーションでは正確性が著しく低下し、わずか8%にまで下がり、抽象的な空間的概念の一般化に深刻な失敗が見られた。
• 元のテストセットでは一貫したパフォーマンスを示す一方で、概念バリエーションではパフォーマンスに顕著な差が生じたことから、標準的なベンチマークが根本的な概念的制限を隠していることが明らかになった。
• IIDテストセットでの高い正確性が、概念的に類似しているが構造的に異なる問題に対してロバストであるとは限らないことが示された。
• 本研究は、概念ベースの評価が、特に抽象化や推論タスクにおいて、従来の評価プロトコルでは見えなかったモデルの弱みを明らかにできることを示している。