[論文レビュー] A More Precise Elbow Method for Optimum K-means Clustering

Indra Herdiana, Maryam Kamal+3 more|ArXiv.org|Feb 2, 2025

Advanced Clustering Algorithms Research被引用数 6

ひとこと要約

この論文は、K-means の K を選ぶエルボー法を、エルボーを識別する客観的な角度ベースの基準を導入することにより、SSE と k の勾配と微分に触発された式を用いて臨界角を計算する。

ABSTRACT

K-means clustering is an unsupervised clustering method that requires an initial decision of number of clusters. One method to determine the number of clusters is the elbow method, a heuristic method that relies on visual representation. The method uses the number based on the elbow point, the point closest to 90 degrees that indicates the most optimum number of clusters. This research improves the elbow method such that it becomes an objective method. We use the analytical geometric formula to calculate an angle between lines and real analysis principle of derivative to simplify the elbow point determination. We also consider every possibility of the elbow method graph behaviour such that the algorithm is universally applicable. The result is that the elbow point can be measured precisely with a simple algorithm that does not involve complex functions or calculations. This improved method gives an alternative of more reliable cluster determination method that contributes to more optimum k-means clustering.

研究の動機と目的

• SSE(k) のプロットにおけるエルボー点を、視覚的な検査に代わる客観的な幾何基準を用いて定量化する。
• 隣接する SSE 線分間の角度を計算する式を開発してエルボーを識別する。
• 方法が異なるグラフ挙動に対して適用可能であり、データセット間で普遍的に適用可能であることを保証する。

提案手法

• SSE(k) プロットを、連続する (k, SSE(k)) 点間の線分で形成される分段線形関数としてモデル化する。
• 連続する SSE 線分間の角度を用いて、閉形式の式を用いてエルボー候補測度 tan(ψ_k) を定義する。
• tan(ψ_k) が有効な k の中で最小となる点をエルボーとして選択する（境界ケースを除外し、線の傾きの挙動を考慮する）。
• 効率と移植性のために標準の算術演算だけを用いる普遍的な実装を提供する（逆三角関数を用いない）。
• 傾斜減少仮定が成り立たない場合に対処する代替/定理（定理 2.5）を追加の条件で特定のコーナーを無視するようにして扱う。
• SSE、tan(ψ_k)、最適な k の選択を示す疑似コードと Python の例を含める。

実験結果

リサーチクエスチョン

• RQ1 SSE(k) のエルボー点を主観的な視覚検査なしでどのように識別できるか。
• RQ2 連続する SSE 区間間の角度に基づく幾何基準だけでエルボーを決定できるか。
• RQ3 提案された角度ベースの方法は歪んだり非標準の SSE プロットをどのように扱うか。
• RQ4 特定のコーナーを無視することがエルボー検出の頑健性に与える影響は何か。
• RQ5 一般的なデータセットとプログラミング言語で効率的に実装可能か。

主な発見

• エルボー点は tan(ψ_k) が最小となる SSE(k) 点として決定できる。
• ψ_k の角度は、SSE(k−1)、SSE(k)、SSE(k+1) を含む閉形式の式を用いて計算される。
• 境界条件を導入し、正 facing のコーナーや歪みを考慮して、上下向きのコーナーにも対処できるようにする。
• 二次傾斜条件が成り立たない場合に対応するための追加の制約を組み込むことにより、方法を拡張する代替定理。
• 標準の算術で SSE、tan(ψ_k)、および最適な k を計算する実用的な Python 実装を示す。