[論文レビュー] Efficient mining of maximal biclusters in mixed-attribute datasets

Rosana Veroneze, Fernando J. Von Zuben|arXiv (Cornell University)|Oct 9, 2017

Data Mining Algorithms and Applications参考文献 21被引用数 4

ひとこと要約

本稿では、離散化や前処理を必要とせず、数値属性とカテゴリカル属性の両方を扱う混合属性データセットにおいて、すべての最大バイクラスタを直接抽出する効率的で列挙型のバイクラスタリング手法、RIn-Close_CVC-Mixを提案する。この手法は多項式時間の効率性、完全性、正しさ、重複のなさを維持し、頻度パターンマイニングを活用して解釈可能な定量的クラス関連規則（QCARs）を生成する。これにより、ラベル付きデータセットに対して簡潔で高品質なモデルが得られる。

ABSTRACT

This paper presents a novel enumerative biclustering algorithm to directly mine all maximal biclusters in mixed-attribute datasets (containing both numerical and categorical attributes), with or without missing values. The proposal is an extension of RIn-Close_CVC, which was originally conceived to mine perfect or perturbed biclusters with constant values on columns solely from numerical datasets, and without missing values. Even endowed with additional and more general features, the extended RIn-Close_CVC retains four key properties: (1) efficiency, (2) completeness, (3) correctness, and (4) non-redundancy. Our proposal is the first one to deal with mixed-attribute datasets without requiring any pre-processing step, such as discretization and itemization of real-valued attributes. This is a decisive aspect, because discretization and itemization implies a priori decisions, with information loss and no clear control over the consequences. On the other hand, even having to specify a priori an individual threshold for each numerical attribute, that will be used to indicate internal consistency per attribute, each threshold will be applied during the construction of the biclusters, shaping the peculiarities of the data distribution. We also explore the strong connection between biclustering and frequent pattern mining to (1) provide filters to select a compact bicluster set that exhibits high relevance and low redundancy, and (2) in the case of labeled datasets, automatically present the biclusters in a user-friendly and intuitive form, by means of quantitative class association rules. Our experimental results showed that the biclusters yield a parsimonious set of relevant rules, providing useful and interpretable models for five mixed-attribute labeled datasets.

研究の動機と目的

• 数値属性とカテゴリカル属性を併せ持つ混合属性データセットに対して、効率的で完全かつ非重複なバイクラスタリング手法の不足を解消すること。
• 従来の手法で情報損失を引き起こす離散化やアイテム化などの前処理ステップを排除すること。
• RIn-Close_CVCアルゴリズムを拡張し、混合属性データを処理しつつ、効率性、完全性、正しさ、非重複性という4つの主要特性を保持すること。
• バイクラスタリングと頻度パターンマイニングを統合し、ユーザーフレンドリーで解釈可能な定量的クラス関連規則（QCARs）を自動生成すること。
• 抽出されたバイクラスタが、ラベル付きの混合属性データセットにおいて、コン act で関連性があり、解釈可能なモデルを生成する有効性を評価すること。

提案手法

• 数値属性とカテゴリカル属性を同時に処理できるように、閉包操作を変更することでRIn-Close_CVCアルゴリズムを混合属性データセットに拡張する。
• 各数値属性に対して個別にユーザー定義の閾値を適用し、内部の一貫性を定義することで、バイクラスタ構築中にデータ分布の特性を保持する。
• ラティスベースの列挙戦略を用いることで、重複のないすべての最大バイクラスタを網羅的に発見する。
• 頻度パターンマイニング（FPM）技術を活用し、信頼度とリフト指標を用いてバイクラスタをフィルタリングし、コンパクトで高関連性の高いサブセットを選択する。
• 抽出されたバイクラスタを定量的クラス関連規則（QCARs）にマッピングし、特にラベル付きデータセットにおいて直感的な解釈を可能にする。
• クラスラベルの識別能を保持しつつ、冗長性を最小限に抑えるために、小さな代表的バイクラスタサブセットを選択するヒューリスティクスを採用する。

実験結果

リサーチクエスチョン

• RQ1 列挙型バイクラスタリング手法は、離散化や前処理を要せず、混合属性データセットにおいてすべての最大バイクラスタを効率的かつ完全に抽出できるか？
• RQ2 拡張されたRIn-Close_CVC-Mixアルゴリズムは、混合属性データに適用された場合でも、効率性、完全性、正しさ、非重複性という4つの主要特性を保持するか？
• RQ3 バイクラスタリングと頻度パターンマイニングを統合することで、抽出されたバイクラスタから解釈可能で高品質な定量的クラス関連規則（QCARs）を得られるか？
• RQ4 抽出されたバイクラスタから導出されたQCARsは、ラベル付きの混合属性データセットにおいて、簡潔で関連性があり、解釈可能なモデルを形成するのにどの程度有効か？
• RQ5 クラスラベルの識別能を保持しつつ、冗長性を最小限に抑える小さな代表的バイクラスタサブセットを効果的に選択できるか？

主な発見

• 提案されたRIn-Close_CVC-Mixアルゴリズムは、離散化を伴わず、混合属性データセットにおいてすべての最大バイクラスタを効率的に抽出し、元のRIn-Close_CVCアルゴリズムの4つの主要特性を保持した。
• アルゴリズムは1バイクラスタあたり多項式時間の計算量を維持しており、混合属性タイプを有する大規模データセットに対しても効率的である。
• 頻度パターンマイニングとの統合により、解釈可能で実用的な定量的クラス関連規則（QCARs）の自動生成が可能となり、モデルの理解に貢献する。
• 5つのラベル付き混合属性データセットにおいて、QCARsは高い関連性と低い冗長性を示すコンパクトな規則集合を形成した。
• Zooデータセットでは、'feathers{no}, milk{yes}, backbone{yes}, breathes{yes}, venomous{no} ⇒ 1' といった規則が100％の信頼度と最大25.25のリフト値を示し、強い予測能力を示した。
• バイクラスタサブセット選択のためのヒューリスティクスは、冗長性を効果的に低減しつつ、クラスラベルの識別能を保持した。