[論文レビュー] Or's of And's for Interpretable Classification, with Application to Context-Aware Recommender Systems

Tong Wang, Cynthia Rudin+4 more|arXiv (Cornell University)|Apr 28, 2015

Recommender Systems and Techniques参考文献 51被引用数 27

ひとこと要約

本論文は、解釈可能でスパースな分類器を、論理的『または』（OR）の『かつ』（AND）ルールの集合（すなわち、「または」の「かつ」ルール）として学習する確率的モデル、Bayesian Or’s of And’s（BOA）を提案する。ベータ＝二項分布およびポアソンの事前分布を用いることで、ユーザーがモデルの複雑さを制御可能にし、ベンチマークデータセットにおいて最先端の精度を達成する。特に、ノイズの多い井戸型ナナメ図（tic-tac-toe）データでは完璧な性能（AUC = 1.000）を示し、決定木、SVM、線形モデルを上回る。

ABSTRACT

We present a machine learning algorithm for building classifiers that are comprised of a small number of disjunctions of conjunctions (or's of and's). An example of a classifier of this form is as follows: If X satisfies (x1 = 'blue' AND x3 = 'middle') OR (x1 = 'blue' AND x2 = '<15') OR (x1 = 'yellow'), then we predict that Y=1, ELSE predict Y=0. An attribute-value pair is called a literal and a conjunction of literals is called a pattern. Models of this form have the advantage of being interpretable to human experts, since they produce a set of conditions that concisely describe a specific class. We present two probabilistic models for forming a pattern set, one with a Beta-Binomial prior, and the other with Poisson priors. In both cases, there are prior parameters that the user can set to encourage the model to have a desired size and shape, to conform with a domain-specific definition of interpretability. We provide two scalable MAP inference approaches: a pattern level search, which involves association rule mining, and a literal level search. We show stronger priors reduce computation. We apply the Bayesian Or's of And's (BOA) model to predict user behavior with respect to in-vehicle context-aware personalized recommender systems.

研究の動機と目的

• 人間による意思決定の文脈（消費者行動や医療分野など）において、精度と解釈可能性の両立を図る機械学習モデルの開発。
• 分類器を『または』の『かつ』（OR of ANDs）としてモデル化することで、人間の推論様式に合致させ、解釈可能性と精度のトレードオフを緩和する。
• 分野固有の解釈可能性要件を反映できる調整可能なベイジアン事前分布を用いて、ユーザーがモデルの複雑さ（パターンのサイズや長さなど）を制御できるようにする。
• 解釈可能性を保ちながら、縮小された探索空間内で高品質でグローバル最適なモデルを効率的に見つける理論的保証を持つスケーラブルな推論手法を設計する。
• 特に、解釈可能性が不可欠な文脈に応じた実世界の応用、特に文脈に応じたレコメンデーションシステムや医療診断分野において、モデルの有効性を実証する。

提案手法

• BOAモデルは、2つのバージョン（BOA-BetaBinomial および BOA-Poisson）を用いた生成的ベイジアンアプローチを採用し、ユーザーが調整可能な事前分布を用いてパターン集合のサイズやパターン長を制御する。
• モデルは、分類器を「論理的『または』（OR）」の「論理的『かつ』（AND）」の集合（DNF形式）として表現する。各『かつ』（パターン）は、属性値ペア（リテラル）の論理的『かつ』であり、全モデルはこのようなパターンの論理的『または』である。
• パターンレベルの探索では、関連ルールマイニングとシミュレーテッドアニーリングを組み合わせ、高頻度パターンを事前にスクリーニングすることで、探索空間を縮小しつつ、MAP解を発見できる能力を維持する。
• リテラルレベルの探索では、現在のパターン集合の個々のリテラルを変更することで確率的局所探索を実行し、より広範な解空間の探索を可能にするが、計算コストが高くなる。
• 強い事前分布と比較的小さなデータセットの下で、事前にマイニングされたパターンがMAP解を含むことが保証される理論的境界を導出する。
• モデルは、分野固有の解釈可能性の好み（たとえば、短いパターンや特定の数のパターンを好む）を反映できる事前分布パrameterを組み込む。

実験結果

リサーチクエスチョン

• RQ1 ベイジアンモデルは、人間の専門家にとって解釈可能で、スパースな分類器（『または』の『かつ』ルールの形）として、精度と理解可能性の両立を達成できるか？
• RQ2 どのような事前分布の設計により、ユーザーが分類器モデルのサイズや形状を制御でき、分野固有の解釈可能性要件に適合できるか？
• RQ3 どのような条件下で、事前にマイニングされたパターン（関連ルールマイニングから得たもの）が、MAP解を含むことが保証され、スケーラブルな推論を可能にするか？
• RQ4 実世界のデータセット（論理的構造が明確に分かっているもの）において、BOAモデルは、決定木、SVM、線形モデルといった標準的なベースラインと比較して、精度と解釈可能性の両面で優れているか？
• RQ5 従来のグリーディ法や凸化手法が失敗する高ノイズ環境下でも、モデルは真の論理的ルールを的確に回復できるか？

主な発見

• BOAは、井戸型ナナメ図（tic-tac-toe）データセットにおいて、AUC = 1.000という完璧な性能を達成し、C4.5、CART、ランダムフォレスト、SVMなどすべてのベースラインを上回った。
• 同じデータセットに30%のノイズを加えた状況でも、BOAは依然として完璧な性能（AUC = 1.000）を維持したが、C4.5 や CART などの他のモデルは顕著な精度低下を示した。
• 乳癌データセットでは、BOAが95.2%の交差検証外精度、97.4%の真正陽性率、6.0%の偽陽性率を達成する3パターンのルールセットを生成し、臨床的解釈可能性が優れていることを示した。
• BOAが正確な論理的ルール（例：井戸型ナナメ図）を回復できる能力は、最適解を発見できない傾向のあるグリーディ法や凸化手法に比べ、顕著な優位性を示している。
• ユーザーが短いパターンを好む場合、パターンレベルの探索はより効率的かつ効果的であった。一方、リテラルレベルの探索は、計算コストが高くなるが、より広範な探索が可能であった。
• 理論的分析により、十分に強い事前分布のもとで、事前にマイニングされたパターンがMAP解を発見するのに十分であることが示され、最適性を失うことなくスケーラブルな推論が可能であることが保証された。