[論文レビュー] Pattern Dependence Detection using n-TARP Clustering

Tarun Yellamraju, Mireille Boutin|arXiv (Cornell University)|Jun 13, 2018

Neural Networks and Applications参考文献 21被引用数 3

ひとこと要約

本論文は、少数サンプルの教育的データセットにおいて、高次元の観測変数と1次元の結果変数の間の統計的に有意な依存関係を検出するためのn-TARPクラスタリングを提案する。データをランダムな1次元部分空間に投影し、複数の二値クラスタリングを生成し、パーミュテーション検定を用いて妥当性を検証することで、結果変数の差の経験的累積分布関数（CDF）を通じて線形および高次依存関係を定量化する。27名の学生が参加したデジタル信号処理の授業において、顕著なスキル-成績関係が明らかになった。

ABSTRACT

Consider an experiment involving a potentially small number of subjects. Some random variables are observed on each subject: a high-dimensional one called the "observed" random variable, and a one-dimensional one called the "outcome" random variable. We are interested in the dependencies between the observed random variable and the outcome random variable. We propose a method to quantify and validate the dependencies of the outcome random variable on the various patterns contained in the observed random variable. Different degrees of relationship are explored (linear, quadratic, cubic, ...). This work is motivated by the need to analyze educational data, which often involves high-dimensional data representing a small number of students. Thus our implementation is designed for a small number of subjects; however, it can be easily modified to handle a very large dataset. As an illustration, the proposed method is used to study the influence of certain skills on the course grade of students in a signal processing class. A valid dependency of the grade on the different skill patterns is observed in the data.

研究の動機と目的

• サンプルサイズが小さい状況において、高次元の観測変数と1次元の結果変数の間の依存関係を検出する課題に対処すること。
• 高次元と少数のサンプルによる回帰の悪条件性を克服するため、関数推定からパターンベースのクラスタリングへの焦点のシフトを図ること。
• 結果の変動を予測する観測変数パターンの統計的に有意なクラスタを同定する、スケーラブルで計算的に効率的な手法を開発すること。
• 線形および高次（2次、3次）関係を含む依存関係の強さと有意性を定量化し、個々の特徴量の寄与度を評価すること。
• 本手法の教育的データ分析における有用性を提示すること、特に最小限の被験者数で成績に影響を与えるスキルパターンを同定することに特化する。

提案手法

• 高次元の観測変数のランダム1次元投影を用い、変更を加えたn-TARP分類器により、多数の二値クラスタリングを生成する。
• 各クラスタリングに対して統計的パーミュテーション検定を適用し、有意性を検証し、有意でないものは除外する。
• クラスターグループ間の結果変数平均の絶対差の経験的累積分布関数（CDF）を構築し、依存関係の強さを定量化する。
• モンテカルロシミュレーションから得られる帰無仮説分布と比較することで、統計的有意水準を決定する。
• 非線形依存関係を検出するため、特徴空間に多項式項（最大3次まで）を追加する。
• 個々のスキルに対応する特徴量を段階的に削除し、CDFを再評価することで、特徴量の影響を評価する特徴選択を実施する。

実験結果

リサーチクエスチョン

• RQ1 パターンベースのクラスタリングは、少数サンプルの高次元の学生特徴と成績の間の統計的に有意な依存関係を検出できるか？
• RQ2 観測変数パターンと結果の間の線形、2次、3次関係は、強さと有意性においてどのように比較できるか？
• RQ3 個々のスキル（例：A, B, C, D, E）のうち、成績に顕著な影響を与えるものはどれであり、どの次数の依存関係で顕著か？
• RQ4 従来のクラスタリング手法が失敗する高次元・少数サンプル設定において、本手法は信頼性があり統計的に有意なクラスタリングを生成できるか？
• RQ5 高次多項式特徴量の導入は、依存関係パターンの検出および結果差の有意性にどのように影響するか？

主な発見

• 10,000個のn-TARPクラスタリングのうち、20個が異なるクラスタリングでありかつ統計的に有意であった。26次元、27サンプルのデータセットにおいて、本手法が信頼性のあるクラスタリングを生成できることを示している。
• 経験的CDFによると、統計的に有意なクラスタの30％が平均成績差として少なくとも0.5を示しており、この差は2シグマ有意領域内にあった。
• 特徴空間に2次項を追加した場合、結果差の有意領域が最大となり、この次数でより強い検出可能な依存関係が得られたことを示している。
• 3次項を含めた場合、スキルDを除外するとCDF曲線が上方にシフトした。これは、スキルDが3次レベルで成績依存関係に顕著な寄与をしているが、線形または2次レベルでは顕著でないことを示している。
• 線形依存関係は主にスキルAとEによって駆動されており、これらの特徴量を除外するとCDFが上方にシフトし、依存関係の強度が低下した。
• 本手法は、この少数サンプル設定において、標準的なクラスタリングアルゴリズム（例：Proclus、K-means）を上回った。多くのアルゴリズムが非重複で統計的に有意なクラスタリングを生成できなかった。