[論文レビュー] Building an Interpretable Recommender via Loss-Preserving Transformation

Amit Dhurandhar, Sechan Oh+1 more|arXiv (Cornell University)|Jun 19, 2016

Data Stream Mining Techniques被引用数 3

ひとこと要約

本論文は、サンプルおよびアクションに依存する誤分類コストを有するパーソナライズドレコメンデーションデータを、損失を保存する変換手法によって標準的な多値分類形式に変換する手法を提案する。元のコスト構造を保持することで、既存の解釈可能な分類器（例：決定木）が、解釈可能性の制約が厳しい中でも、変換率において顕著に優れた、高品質なルールベースのレコメンデーションを生成できる。

ABSTRACT

We propose a method for building an interpretable recommender system for personalizing online content and promotions. Historical data available for the system consists of customer features, provided content (promotions), and user responses. Unlike in a standard multi-class classification setting, misclassification costs depend on both recommended actions and customers. Our method transforms such a data set to a new set which can be used with standard interpretable multi-class classification algorithms. The transformation has the desirable property that minimizing the standard misclassification penalty in this new space is equivalent to minimizing the custom cost function.

研究の動機と目的

• パーソナライズドマーケティングにおいて、高いレコメンデーション品質を維持しつつ、解釈可能なルールベースのレコメンデーションポリシーを生成する課題に対処すること。
• 標準的な多値分類器が一様な誤分類コストを仮定するのに対し、顧客およびアクションに応じてコストが変動する状況ではその制限が顕著になることの克服。
• カスタムのサンプルおよびクラス依存コストを有するデータを、最適性を損なわずに標準分類形式にマップする一般化された変換を開発すること。
• ドメインエキスパートが要請するようにルール数が少ない場合でも、得られる解釈可能なルールが頑健で効果的であることを保証すること。
• ルール生成におけるきめ細やかなコストモデリングが、ヒューリスティックまたはベースライン手法よりも顕著に優れたパフォーマンスをもたらすことを実証すること。

提案手法

• 元のデータセット（顧客特徴、アクション、結果）の各サンプルを、最適アクションと実際のアクションの変換確率の差に基づいて得られる損失保存重みに従って複製することで、新たなデータセットに変換する。
• 変換されたデータを用いて標準的な解釈可能な多値分類器（例：決定木）を学習させ、新しい空間における標準的な0/1誤分類誤差の最小化が、元のカスタムコスト関数の最小化と等価になるようにする。
• この変換により、変換空間における最適ポリシーが、元のコスト感受性空間における最適ポリシーと正確に一致し、真の損失構造が保持される。
• 重み付きサンプルをサポートする任意の分類器に適用可能であるため、本手法は一般性を有し、既存の解釈可能な学習アルゴリズムとの統合が可能である。
• 各(x, a)ペアのレプリカ数は、アクションaを最適アクションa*(x)に対して推薦する際の期待コストに比例するように変換を構築する。
• 特殊なコスト感受性学習アルゴリズムを必要とせず、問題を調整済みのサンプル重みを有する標準分類タスクに変換することで、効率的な対応が可能になる。

実験結果

リサーチクエスチョン

• RQ1 損失構造を保持する一般化された変換を設計でき、コスト感受性レコメンデーション問題を標準多値分類問題に変換できるか？
• RQ2 この変換を用いることで、サンプルおよびアクション依存のコストを無視するベースライン手法よりも、解釈可能なルールベースレコメンデーターが高い変換率を達成できるか？
• RQ3 ルール数が制限されている場合、変換手法のパフォーマンスはベースラインと比べてどの程度優れているか？
• RQ4 新しい近似的に最適なプロmotionが導入された場合でも、本手法は頑健に処理できるか？特に、常に最適ではないが特定条件下で最適になる場合に有効か？
• RQ5 予測誤差による変換確率推定の不確実性下でも、変換手法がルールベースレコメンデーションの安定性および品質をどの程度向上させるか？

主な発見

• 提案手法は、解釈可能なルール数がどの水準であっても、ベンチマーク手法よりも顕著に高い平均変換率を達成しており、ルール数が減少するにつれてその差が広がる。
• ルール数が6に固定された場合、提案手法の変換率はαの増加に伴い滑らかに上昇し、α = 1に達した時点で上限に達する。これは、新たな近似的に最適なプロmotionに対しても頑健であることを示している。
• これに対して、ベンチマーク手法はα = 1であっても、訓練データ内に他の局所最適なアクションが存在するため、グローバルに最適な架空のプロmotionを推薦できない。
• 特にルール数が少ない制約下では、変換手法が理論的上界からの逸脱を著しく低減している。
• 結果から、サンプルおよびクラス依存の誤分類コストを無視すると、たとえ各顧客の最適アクションが訓練データに存在しても、最適でないルール生成が生じることを示している。
• 本手法は、分類器の意思決定境界がデータの不均衡や局所最適に歪められるのではなく、真のコスト構造と一致することを保証することで、解釈可能なモデルの信頼性を向上させている。