[論文レビュー] Goal Clustering: VNS based heuristics

Pedro Martins|arXiv (Cornell University)|May 22, 2017

Facility Location and Emergency Management参考文献 19被引用数 3

ひとこと要約

本稿では、R-squared比のグループ間変動が事前に定められたしきい値を満たすことを保証しながら、クラスタ数を最小化するゴールクラスタリング（GC）問題に対する2つの変数近傍探索（VNS）に基づくヒューリスティクスを提案する。これらの手法は、k-meansおよびWardのアルゴリズムを用いて初期解を生成し、計算結果から大規模なインスタンスにおいて優れた性能を示した。特に、メモリ集約的問題に対してはVNS/Ward’s-GCが優れていることが明らかになった。

ABSTRACT

Given a set V of n elements on m attributes, we want to find a partition of V on the minimum number of clusters such that the associated R-squared ratio is at least a given threshold. We denote this problem as Goal Clustering (GC). This problem represents a new perspective, characterizing a different methodology within unsupervised non-hierarchical clustering. In effect, while in the k-means we set the number of clusters in advance and then test the associated R-squared ratio; in the GC we set an R-squared threshold lower limit in advance and minimize k. We present two Variable Neighborhood Search (VNS) based heuristics for the GC problem. The two heuristics use different methodologies to start the VNS algorithms. One is based on the Ward's construction and the other one resorts to the k-means method. Computational tests are conducted over a set of large sized instances in order to show the performance of the two proposed heuristics.

研究の動機と目的

• k-meansとは異なりクラスタ数を固定するのではなく、最小R-squaredしきい値を満たす条件下でクラスタ数を最小化することにより、非階層的クラスタリングを扱う。
• R-squared比を下限から制約し、クラスタ数を最小化するという、新たなクラスタリングパラダイムを提案する。
• GC問題に対する2つのVNSベースのヒューリスティクスを開発・評価する。初期解生成にはk-meansおよびWardのアルゴリズムを用いる。
• 正規分布および一様分布の両方を想定した合成インスタンスと、実世界のデータセット（遺伝子発現およびETF価格ストリーム）の両方で性能をテストする。
• 個々の属性ごとに異なるR²しきい値を設定するなど、将来的な拡張について検討する。

提案手法

• GC問題は、R²(P) ≥ R²T を満たす条件下でクラスタ数kを最小化する形で定式化される。ここでR²は、全グループ間変動を全変動に対して相対化した指標である。
• R²比はSSB/SSTとして計算され、SSBおよびSSTは属性レベルのグループ間および全グループの平方和から導出される。
• 2つのVNSベースのヒューリスティクスを提案：VNS/k-means-GCおよびVNS/Ward’s-GC。両者の差異は初期解の構築方法に起因する。
• VNSフレームワークは複数の近傍構造を探索することで局所最適解からの脱出を図り、最大シャッフルステップ数（r_max）によって終了を制御する。
• 初期解はk-meansおよびWardのアルゴリズムにより生成され、後者はより安定した初期分割を提供する。
• アルゴリズムは合成インスタンス（n=100–10,000、m=3–100）および実データセット（1,744遺伝子、3,028ETF日）で評価され、クラスタ数および実行時間の両面で性能を測定した。

実験結果

リサーチクエスチョン

• RQ1 非階層的クラスタリングにおいて、最小R-squaredしきい値を満たす条件下でクラスタ数を最小化するという目的を達成するために、VNSベースのヒューリスティクスはどの程度有効であるか？
• RQ2 初期解の選択（k-means対Wardのアルゴリズム）が、GC問題におけるVNSの性能および解の質に顕著な影響を及えるか？
• RQ3 特に大規模インスタンス（n ≥ 5,000）において、提案されたヒューリスティクスは問題サイズの増大にどのようにスケーリングするか？
• RQ4 VNS/k-means-GCおよびVNS/Ward’s-GCヒューリスティクスは、マイクロアレイ遺伝子発現およびETF価格ストリームといった実世界のデータセットを効率的に解けるか？
• RQ5 正規分布と一様分布の両方のデータ分布において、解の質と実行時間の間の計算的トレードオフはどのように変化するか？

主な発見

• 小さいインスタンス（n ≤ 1000）では、VNS/k-means-GCがVNS/Ward’s-GCを上回った。特に属性数が少ない（m ≤ 5）場合に、より少ないクラスタ数を達成した。
• 大規模インスタンス（n = 5,000および10,000）では、VNS/k-means-GCはメモリおよび時間的制約により実行不可能となり、結果的にVNS/Ward’s-GCに限定された。
• マイクロアレイ遺伝子発現データセット（1,744遺伝子、45サンプル）では、VNS/k-means-GCは9時間未満で問題を解釈したが、VNS/Ward’s-GCは3時間未満で近似解を提供した。
• ETFデータストリーム（3,028日、22カ国）では、VNS/k-means-GCは約7時間を要したが、VNS/Ward’s-GCは1時間未塔で処理が完了した。
• VNS/Ward’s-GCヒューリスティクスは、大規模および実世界のデータセットにおいて優れたスケーラビリティと効率性を示した。
• 結果から、特に一様分布データに対しては、Wardの初期化がk-meansに比べてより安定的かつメモリ効率的であることが示唆された。