[論文レビュー] Learning Features For Relational Data.

Hoang Thanh Lam, Tran Ngoc Minh+3 more|arXiv (Cornell University)|Jan 16, 2018

Data Mining Algorithms and Applications参考文献 10被引用数 8

ひとこと要約

本論文は、ヒューリスティックに基づくルールシステムとディープニューラルネットワークを組み合わせることで、手動での特徴工学を必要とせずに予測可能な特徴を発見する、関係データ向けの自動特徴学習フレームワークを提案する。最先端の性能を達成し、Kaggleコンペティションで後期メダルを獲得しており、複雑な関係データセットを用いた同種の自動システムとしては、これが初めての知られざる成果である。

ABSTRACT

Feature engineering is one of the most important but tedious tasks in data science projects. This work studies automation of feature learning for relational data. We first theoretically proved that learning relevant features from relational data for a given predictive analytics problem is NP-hard. However, it is possible to empirically show that an efficient rule based approach predefining transformations as a priori based on heuristics can extract very useful features from relational data. Indeed, the proposed approach outperformed the state of the art solutions with a significant margin. We further introduce a deep neural network which automatically learns appropriate transformations of relational data into a representation that predicts the target variable well instead of being predefined as a priori by users. In an extensive experiment with Kaggle competitions, the proposed methods could win late medals. To the best of our knowledge, this is the first time an automation system could win medals in Kaggle competitions with complex relational data.

研究の動機と目的

• 関係データベースを含むデータサイエンスプロジェクトにおける、繰り返しで時間がかかる特徴工学の課題に対処すること。
• 予測分析タスクに適した関係データからの関連特徴を自動で学習するシステムを開発すること。
• 問題の理論的難易度を克服するために、実践的で実証的に有効な手法を提案すること。
• Kaggleコンペティションにおける実世界のベンチマークを通じて、自動特徴学習の有効性を実証すること。
• 複雑な関係データセットにおいて、最先端の手法と比較して優れた性能を達成すること。

提案手法

• 関係データからの特徴学習がNP困難であることを理論的に証明し、問題の計算的難易度を確立すること。
• 分野固有のヒューリスティクスを用いて事前に特徴変換を定義するルールベースのアプローチを設計し、効率的に有用な特徴を抽出すること。
• 手動によるルール定義を不要とするように、関係データを予測可能な表現に最適な変換を自動で学習するディープニューラルネットワークを実装すること。
• 生のテーブルをターゲット変数を効果的に予測できる表現にマップするように、関係データ上でエンドツーエンドにディープニューラルネットワークを訓練すること。
• Kaggleコンペティションからのデータを含む多様な関係データセット上で、ルールベースおよびニューラルアプローチを評価すること。
• 実証的評価を用いて、最先端の特徴工学手法と性能を比較すること。

実験結果

リサーチクエスチョン

• RQ1 関係データからの自動特徴学習は、手動による特徴工学と同等またはそれ以上の性能を達成できるか？
• RQ2 分野固有のヒューリスティクスを用いて、関係データから意味のある特徴を効果的に抽出できるルールベースのシステムを設計できるか？
• RQ3 事前に人間が定義したルールがなくても、ディープニューラルネットワークがエンドツーエンドで最適なデータ変換を学習できるか？
• RQ4 提案された自動システムは、実世界の関係データセットにおいて、既存の最先端手法を上回る性能を示せるか？
• RQ5 自動特徴学習システムは、Kaggleのような高リスクのデータサイエンスコンペティションでメダルを獲得できるか？

主な発見

• 理論的分析により、関係データからの特徴学習がNP困難であることが証明され、効率的なヒューリスティクスや自動学習の必要性が裏付けられた。
• ヒューリスティクスに基づくルールシステムは、最先端の特徴工学手法よりも顕著に優れた予測性能を示した。
• ディープニューラルネットワーク部は、事前定義された変換ルールがなくても、効果的なデータ表現を学習した。
• 統合アプローチは複数のKaggleコンペティションで後期メダルを獲得し、複雑な関係データにおける実世界の有効性を実証した。
• 著者らの知る限り、本研究は関係データを用いてKaggleコンペティションでメダルを獲得した最初の自動システムである。