[논문 리뷰] Learning Order Forest for Qualitative-Attribute Data Clustering

Mingjie Zhao, Sen Feng외 4명|arXiv (Cornell University)|2026. 03. 03.

Advanced Clustering Algorithms Research인용 수 0

한 줄 요약

COForest는 질적 속성 값에 대해 최소 신장 트리의 숲(순서 트리)을 학습하고 거리 구조와 클러스터링을 공동으로 최적화하여, 유의성 검정으로 12개의 실 데이터 세트에서 10개의 기준선보다 우수한 결과를 달성한다.

ABSTRACT

Clustering is a fundamental approach to understanding data patterns, wherein the intuitive Euclidean distance space is commonly adopted. However, this is not the case for implicit cluster distributions reflected by qualitative attribute values, e.g., the nominal values of attributes like symptoms, marital status, etc. This paper, therefore, discovered a tree-like distance structure to flexibly represent the local order relationship among intra-attribute qualitative values. That is, treating a value as the vertex of the tree allows to capture rich order relationships among the vertex value and the others. To obtain the trees in a clustering-friendly form, a joint learning mechanism is proposed to iteratively obtain more appropriate tree structures and clusters. It turns out that the latent distance space of the whole dataset can be well-represented by a forest consisting of the learned trees. Extensive experiments demonstrate that the joint learning adapts the forest to the clustering task to yield accurate results. Comparisons of 10 counterparts on 12 real benchmark datasets with significance tests verify the superiority of the proposed method.

연구 동기 및 목표

• 명시적 값 간 거리가 불확실한 질적(범주형) 속성을 위한 클러스터링의 동기를 제시한다.
• 값 그래프와 클러스터 할당을 함께 학습하는 클러스터링 친화적 거리 학습 프레임워크를 제안한다.
• 사 속성 내 값 간의 관계를 최소 신장 트리 숲으로 표현하여 지역 순서 관계를 유연하게 포착한다.
• 클러스터 소속을 업데이트하고 순서 숲을 재구성하는 것을 교대로 수행하는 반복 최적화를 개발한다.
• 광범위한 실험과 유의성 검정을 통해 견고함과 우수성을 입증한다.

제안 방법

• 속성 a_r의 가능한 값 o_r에 대해 각 M_r가 최소 신장 트리인 순서 숲 M = {M1,...,Ml}를 구성한다.
• 클러스터별 값 분포에서 계산된 가중치 기반 간선 길이를 통해 각 순서 트리에 클러스터링 친화적인 추적 거리(trace distance)를 정의한다(Eq. 4).
• 샘플-클러스터 거리 Γ(x_i, C_j; M)을 속성별 추적 거리의 합으로 계산한다(Eq. 7).
• 샘플-클러스터 비유사성을 합산하고 Q(클러스터 할당) 업데이트와 M(순서 숲) 재구성을 교대로 최적화하여 반복적으로 최소화하는 공동 목적 함수 L(Q,M)을 형식화한다(Eq. 8).
• 현재 M에 대해 k-modes에서 영감을 받은 Q의 업데이트를 사용하고, 이후 현재 Q로부터 M을 재구성하며 반복적 정제를 통해 수렴을 보장한다(Algorithm 1).
• 추적 거리와 Γ가 거리 척도임을 보장하는 이론적 보장(Theorems 1 및 2)을 제공하고 시간 복잡도를 O(nlk I E)로 분석한다(Theorem 3).

실험 결과

연구 질문

• RQ1 학습된 그래프 기반의 질적 속성 값 표현이 고정 토폴로지보다 클러스터링 품질을 향상시킬 수 있는가?
• RQ2 거리 구조와 클러스터 할당을 함께 학습하는 것이 각각의 구성요소를 고립적으로 학습하는 것보다 더 나은 성능을 내는가?
• RQ3 최소 신장 트리 기반의 순서 숲이 질적 데이터를 클러스터링하기 위한 지역 값 관계를 포착하는 데 효과적인가?
• RQ4 제안된 COForest 프레임워크의 실제 데이터 세트에서의 수렴 동작과 계산 효율성은 어떠한가?
• RQ5 다양한 질적 데이터 벤치마크에서 COForest는 최첨단 방법들과 어떻게 비교되는가?

주요 결과

• COForest는 CA 및 ARI 지표에서 12개의 실제 벤치마크 데이터셋에서 10개의 기준선보다 일관되게 최상의 성능을 달성한다.
• Bonferroni-Dunn 사후 분석이 포함된 프리드만 검정은 COForest가 동료들보다 유의하게 우수함을 보여준다(p-값 0.00020 및 0.00002).
• 적용 연구는 순서 숲과 클러스터링의 공동 학습이 성능에 필수적임을 보여주며, 순서 숲 접근 방식과 확률 기반 가중치가 선형 그래프나 해밍 기반 거리와 같은 대안들보다 우수하다.
• 수렴 도표는 목표 함수 L이 순서 숲 재구성으로 감소함을 보이고 방법은 일반적으로 15회 이내에 수렴함을 나타낸다.
• COForest는 데이터 세트 전반에서 견고함을 보이며, 순서 숲은 명시적 의미 값 순서를 의존하지 않더라도 유연하고 클러스터링 친화적인 표현을 제공한다.