[論文レビュー] Learning Order Forest for Qualitative-Attribute Data Clustering

Mingjie Zhao, Sen Feng+4 more|arXiv (Cornell University)|Mar 3, 2026

Advanced Clustering Algorithms Research被引用数 0

ひとこと要約

COForest は定性的属性値のための最小全域木の森（順序木）を学習し、距離構造とクラスタリングを共同最適化する。実データ12件で10件のベースラインと比較して有意差検証付きで優れた結果を達成。

ABSTRACT

Clustering is a fundamental approach to understanding data patterns, wherein the intuitive Euclidean distance space is commonly adopted. However, this is not the case for implicit cluster distributions reflected by qualitative attribute values, e.g., the nominal values of attributes like symptoms, marital status, etc. This paper, therefore, discovered a tree-like distance structure to flexibly represent the local order relationship among intra-attribute qualitative values. That is, treating a value as the vertex of the tree allows to capture rich order relationships among the vertex value and the others. To obtain the trees in a clustering-friendly form, a joint learning mechanism is proposed to iteratively obtain more appropriate tree structures and clusters. It turns out that the latent distance space of the whole dataset can be well-represented by a forest consisting of the learned trees. Extensive experiments demonstrate that the joint learning adapts the forest to the clustering task to yield accurate results. Comparisons of 10 counterparts on 12 real benchmark datasets with significance tests verify the superiority of the proposed method.

研究の動機と目的

• 定性的（カテゴリカル）属性に対して明示的な値の距離が不明な場合のクラスタリングを動機づける。
• 値グラフとクラスタ割り当てを共同で学習するクラスタリング指向の距離学習フレームワークを提案する。
• 属性内の値の関係を最小全域木森で表現し、局所的な順序関係を柔軟に捉える。
• クラスタメンバーシップの更新と順序森の再構築を交互に行う反復最適化を開発する。
• extensive な実験と有意性検定を通じて頑健性と優越性を示す。

提案手法

• 各属性 a_r の o_r 個の値に対して最小全域木で構成された順序森 M = {M1,...,Ml} を構築する。
• 各順序木上でクラスタリングに優しいトレース距離を、クラスタごとの値分布から計算された重み付きエッジ長（式 (Eq. 4)）により定義する。
• サンプルとクラスタの距離 Gamma(x_i, C_j; M) を、属性ごとのトレース距離の総和として計算する（式 (Eq. 7)）。
• サンプル-クラスタの不適合度を和として結合目的関数 L(Q,M) を定式化し、Q（クラスタ割り当て）と M（順序森）を交互に更新することで反復的に最小化する（式 (Eq. 8)）。
• M に対して Q を与える k-モード風の更新を行い、現在の Q から M を再構築し、反復的な洗練を通じて収束を保証する（アルゴリズム 1）
• トレース距離と Gamma が距離の計量であるという理論的保証（定理 1, 2）と、時間計算量を O(nlk I E) と分析する（定理 3）。

実験結果

リサーチクエスチョン

• RQ1 学習されたグラフベースの定性的属性値の表現は、固定トポロジよりクラスタリング品質を改善できるか。
• RQ2 距離構造とクラスタ割り当てを共同学習することは、片方を孤立して学習するより性能を向上させるか。
• RQ3 最小全域木ベースの順序森は定性的データの局所的な値関係を捉えるのに有効か。
• RQ4 提案 COForest フレームワークの収束挙動と実データセット全体の計算効率はどうか。
• RQ5 COForest は多様な定性的データベンチマークで最先端手法と比較してどういう成績になるか。

主な発見

• COForest は 12 件の実データセットで、CA および ARI 指標で 10 件のベースラインと比較して常に高い性能を達成。
• Bonferroni-Dunn 後検定を用いた Friedman テストで、COForest は対戦相手より有意に上回る（p値 0.00020 および 0.00002）。
• アブレーション研究により、順序森とクラスタリングの共同学習が性能に不可欠であることが示され、順序森アプローチと確率ベースの重み付けは、ライングラフやハミング距離などの代替よりも優れている。
• 収束プロットは目的関数 L が順序森の再構築とともに低下することを示し、通常は 15 イテレーション以内に収束する。
• COForest はデータセットをまたいで頑健性を示し、順序森は明示的な意味値順序に依存せずに柔軟なクラスタリング向き表現を提供する。