[論文レビュー] Purifying Interaction Effects with the Functional ANOVA: An Efficient Algorithm for Recovering Identifiable Additive Models

Benjamin J. Lengerich, Sarah Tan+3 more|arXiv (Cornell University)|Nov 12, 2019

Fault Detection and Control Systems参考文献 44被引用数 8

ひとこと要約

本稿では、関数型分散分析（fANOVA）分解を用いて、交互作用効果を純粋化する新規で正確なアルゴリズムを提案する。識別不能性の問題を解消するため、交互作用に起因する分散を単独で分離することで、主効果と交互作用効果の解釈が恣意的な分散再配分によって誤解を招くことがあることを明らかにする。この手法により、階層的定数関数（例：木ベースのモデル）を標準形に変換し、従来の主効果および交互作用効果の解釈が、恣意的な分散再配分の結果として誤解を招く可能性があることを示す。

ABSTRACT

Models which estimate main effects of individual variables alongside interaction effects have an identifiability challenge: effects can be freely moved between main effects and interaction effects without changing the model prediction. This is a critical problem for interpretability because it permits "contradictory" models to represent the same function. To solve this problem, we propose pure interaction effects: variance in the outcome which cannot be represented by any smaller subset of features. This definition has an equivalence with the Functional ANOVA decomposition. To compute this decomposition, we present a fast, exact algorithm that transforms any piecewise-constant function (such as a tree-based model) into a purified, canonical representation. We apply this algorithm to Generalized Additive Models with interactions trained on several datasets and show large disparity, including contradictions, between the effects before and after purification. These results underscore the need to specify data distributions and ensure identifiability before interpreting model parameters.

研究の動機と目的

• 予測に変化がないまま主効果と交互作用効果が恣意的に再配分可能であるという加法的モデルにおける根本的な識別不能性問題に対処する。
• 特に木ベースのモデルにおいて生じる効果の解釈の矛盾を解消するため、'純粋な' 交互作用効果を定義し、その計算を行う。
• 区分けされた定数関数（例：木ベースのモデルが生成するもの）に対して、関数型分散分析（fANOVA）分解を正確かつ効率的に計算するアルゴリズムを開発する。
• モデルの解釈がデータ分布や推定手順に極めて敏感であることを示し、解釈の前に純粋化処理が必要であることを明らかにする。
• 純粋化処理の前後で、主効果と交互作用効果が著しく歪められることを明らかにし、機械学習における解釈可能性と公平性に深刻な影響を及える。

提案手法

• 関数型分散分析（fANOVA）分解に従い、任意の主効果の部分集合によって説明できない分散として、純粋な交互作用効果を定義する。
• 木ベースのモデルが生成するような区分けされた定数関数に対して、fANOVA分解を正確かつ高速に計算するアルゴリズムを提案する。
• 与えられた加法的モデル（交互作用を含む）を、主効果と交互作用効果が互いに直交的かつ識別可能となる標準形に変換する。
• アルゴリズムを用いて実データセット上で学習されたモデルを再表現し、元の効果推定値がしばしば主効果と交互作用信号を混同していることを明らかにする。
• 先行研究のデータ生成器（例：遺伝的相互作用研究）を用い、純粋化処理を適用することで、主効果の強さが前後で著しく変化することを示す。
• 純粋化された形を用いて、ランダムフォレストなどのモデルの誘導的バイアスを分析し、主効果が強い場合に交互作用を優先して回復することを示す。

実験結果

リサーチクエスチョン

• RQ1 標準的な交互作用を含む加法的モデルでは、識別不能性のため、解釈が矛盾を起こす程度はどの程度か？
• RQ2 木アンサンブルのような区分けされた定数関数に対して、主効果と交互作用効果の標準的かつ識別可能な分解を正確に計算できるか？
• RQ3 データ分布やモデル推定手順が、純粋化処理の前後で主効果と交互作用効果の解釈に与える影響は何か？
• RQ4 純粋化処理が、実世界および合成データセットにおける交互作用効果の強さと構造に与える影響は何か？
• RQ5 純粋化処理により、元々交互作用項に隠されていた主効果の分散が明らかになることはあるか？また、そのような情報は、耐性性を高めるための正則化に役立つだろうか？

主な発見

• 同じ関数は、同一の予測をもたらすが、解釈が矛盾する複数の加法的モデルで表現可能であり、ブール変数および連続変数の例でこれを示した。
• ブール変数における 'AND' および 'OR' 操作の交互作用効果は、中心化されたXOR交互作用に主効果が加わったものと等価であり、これらが異なるタイプの相互作用であるとは言えないことを証明した。
• 純粋化処理後、'相乗的' な遺伝的相互作用モデルでは、'相互作用のみ' モデルと比較して主効果が3倍強くなっているが、交互作用効果の強さは同一である。
• '相互作用なし' モデルでも、純粋化処理後は非ゼロの主効果が現れるため、元のモデルが相互作用の不在を誤って表現していることが示された。
• 純粋化処理により、元々交互作用に隠れていた主効果の分散が明らかになり、後処理による正則化でこれを低減できることが示された。これにより、解釈可能性が向上し、テスト精度の向上も期待できる。
• ランダムフォレストモデルは、主効果が強い場合にのみ、交互作用を優先して回復することが、純粋化されたデータ生成器の分析から明らかになった。これは、モデルの誘導的バイアスが効果構造に依存することを示している。