[論文レビュー] Explainable Abstract Trains Dataset

Manuel de Sousa Ribeiro, Ludwig Krippahl+1 more|arXiv (Cornell University)|Dec 15, 2020

Explainable Artificial Intelligence (XAI)参考文献 8被引用数 6

ひとこと要約

説明可能なAI分野の発展を促進するために設計された、スタイライズド・トレインのイラストで構成される大規模な50万枚の画像データセットであるXTRAINSは、説明生成、帰属割り当て、局在化手法のベンチマークを可能にする詳細なアノテーション、車両部品のバウンディングボックス、構造的なオントロジーを備えています。

ABSTRACT

The Explainable Abstract Trains Dataset is an image dataset containing simplified representations of trains. It aims to provide a platform for the application and research of algorithms for justification and explanation extraction. The dataset is accompanied by an ontology that conceptualizes and classifies the depicted trains based on their visual characteristics, allowing for a precise understanding of how each train was labeled. Each image in the dataset is annotated with multiple attributes describing the trains' features and with bounding boxes for the train elements.

研究の動機と目的

• 説明可能AI（XAI）およびモデルの根拠提示の研究を進めるためのスケーラブルで制御可能かつ説明可能な画像データセットを提供すること。
• 正確で構造的なアノテーションを通じて、帰属割り当ておよび局在化マッピング手法の開発と評価を支援すること。
• データセットに埋め込まれた真の意味的知識を用いて、オントロジー学習および知識抽出手法のベンチマークを可能にすること。
• 視覚的特徴および列車表現の構造的性質をカスタマイズ可能な再現性のある画像生成パイプラインを提供すること。
• オントロジーを介してモデル出力を解釈可能で記号的な根拠に結びつけることで、ニューラルネットワークの説明の評価を容易にすること。

提案手法

• 本データセットは、主に切断正規分布および一様分布に基づく確率的プロセスを用いて生成された、152×152ピクセルの抽象的列車画像を50万枚含む。
• 車両構成は確率的ルールで制御される：車両数（切断正規分布、μ=3、σ=1）、ホイールサイズ（4つの離散的サイズ）、連結器高さ（2値）、間隔（2値）、いずれも一様分布または条件付き分布に従う。
• 車両特徴（長さ：p=1/3で34ピクセル、p=2/3で24ピクセル、壁の形状：6通り、屋根形状：5通り、可視ホイール：3値）は、長さおよび相互依存関係に基づいて条件付き分布に従う。
• 車両内装は形状（8通り）、サイズ（4サイズ）、数量（3値）、位置（形状、サイズ、数量、車両幾何学に依存）で定義され、条件付き確率で定義される。
• ノイズは、列車表現に最大10％の欠損ピクセルを導入し、壁および床が太くなる（2ピクセル）確率が15％で発生させることで、視覚的アーティファクトを模倣する。
• 各画像は、生成ロジックまたはオントロジー推論から導出された39個のバイナリ属性（例：TwoWheelsWagon）および8個の数値属性（例：Angle）でアノテートされている。

実験結果

リサーチクエスチョン

• RQ1 このデータセットを用いて、説明生成手法は画像分類意思決定のための人的に解釈可能な根拠をどれほど効果的に生成できるか？
• RQ2 帰属割り当ておよび局在化手法は、抽象的列車画像における関連する視覚的特徴（例：ホイール、連結器）をどれほど正確に特定できるか？
• RQ3 提供されたオントロジーは、知識抽出およびオントロジー学習アルゴリズムの評価に信頼できる真の根拠として機能できるか？
• RQ4 構造的変動（例：ホイールサイズ、車両長さ）は、制御された合成環境下で説明可能技術の性能にどのように影響を与えるか？
• RQ5 このデータセットは、構造的知識を介してニューラルネットワークの予測を記号的でルールベースの説明に結びつける手法の開発を支援できるか？

主な発見

• XTRAINSデータセットは、152×152ピクセルの高解像度で一貫性があり、制御可能な視覚的変動を示す抽象的列車画像50万枚を含む。
• 各画像は、生成ロジックまたはオントロジー推論から導出された39個のバイナリ属性および8個の数値属性でアノテートされており、モデルの説明の正確な評価を可能にしている。
• 列車、車両、内装、屋根、ホイールの6つの部品に対してバウンディングボックスが提供されており、局在化手法の評価を支援している。
• ノイズおよび視覚的アーティファクト（例：欠損ピクセル、太い壁）がデータセットに含まれており、現実世界のデータの不完全性を模倣し、耐性評価が可能になっている。
• 併せて提供される画像生成器により、車両長さ、ホイール数、内装分布などのパラメータを調整することで、カスタマイズ可能なデータセット生成が可能である。
• オントロジーにより、画像属性における記号的推論が可能となり、説明可能技術および知識獲得手法のベンチマークに真の根拠となる知識ベースを提供している。