[論文レビュー] Human-like Clustering with Deep Convolutional Neural Networks

Ali Borji, Ayşegül Dündar|arXiv (Cornell University)|Jun 15, 2017

Visual Attention and Saliency Detection参考文献 38被引用数 6

ひとこと要約

この論文は、階層的特徴学習を活用して人間の知覚に類似した振る舞いを再現する、教師なしクラスタリングのための深層畳み込みニューラルネットワーク（CNN）手法を提案する。ノイズのあるラベルを用いて平均二乗誤差損失で訓練されたモデルは、重なった複雑な形状を有する合成データにおいて、最先端のクラスタリングアルゴリズムを上回り、人間による評価では、FCM や CFSFDP よりも顕著に人間の判断と整合性が高いクラスタリングを実現している。

ABSTRACT

Classification and clustering have been studied separately in machine learning and computer vision. Inspired by the recent success of deep learning models in solving various vision problems (e.g., object recognition, semantic segmentation) and the fact that humans serve as the gold standard in assessing clustering algorithms, here, we advocate for a unified treatment of the two problems and suggest that hierarchical frameworks that progressively build complex patterns on top of the simpler ones (e.g., convolutional neural networks) offer a promising solution. We do not dwell much on the learning mechanisms in these frameworks as they are still a matter of debate, with respect to biological constraints. Instead, we emphasize on the compositionality of the real world structures and objects. In particular, we show that CNNs, trained end to end using back propagation with noisy labels, are able to cluster data points belonging to several overlapping shapes, and do so much better than the state of the art algorithms. The main takeaway lesson from our study is that mechanisms of human vision, particularly the hierarchal organization of the visual ventral stream should be taken into account in clustering algorithms (e.g., for learning representations in an unsupervised manner or with minimum supervision) to reach human level clustering performance. This, by no means, suggests that other methods do not hold merits. For example, methods relying on pairwise affinities (e.g., spectral clustering) have been very successful in many scenarios but still fail in some cases (e.g., overlapping clusters).

研究の動機と目的

• 分類とクラスタリングのギャップを埋めるために、人間の視覚階層を模倣する深層学習フレームワークを活用すること。
• 深層畳み込みニューラルネットワークが、重なった複雑なクラスタ形状において人間水準のクラスタリング性能を達成できるかどうかを調査すること。
• 明示的な教師信号なしに、ノイズのあるラベルを用いてエンドツーエンドに訓練されたCNNの教師なしクラスタリングにおける有効性を評価すること。
• CNNの階層的構成性が、従来のクラスタリングアルゴリズムよりも複雑な構造的パターンをよりよく捉えることができることを示すこと。

提案手法

• ノイズのあるラベルを用いてバックプロパゲーションでエンドツーエンドに訓練された完全畳み込みニューラルネットワークが、クラスタ割り当てを予測する。
• ネットワークは、予測ラベルと真値ラベルの差を最小化するため、平均二乗誤差損失関数を用いる。
• アーキテクチャは空間的重み共有と階層的特徴学習を活用しており、フィルタが単純なエッジから完全な形状に至るまで、次第に複雑なパターンを検出可能である。
• 人間被験者がどのクラスタリングソリューションが自分の知覚と最も一致するかを判断するユーザースタディを実施してモデルを評価する。
• 従来のクラスタリング手法がしばしば失敗する、重なった形状（例：二つの半円）を有する合成刺激に本手法を適用する。
• 弱いラベルやラベルなしの状況での一般化を向上させるために、ペアワイズ精度を代替損失関数として検討する。

実験結果

リサーチクエスチョン

• RQ1 ノイズのあるラベルで訓練された深層畳み込みニューラルネットワークは、重なった複雑なクラスタ形状において、人間の判断と同等のクラスタリング性能を達成できるか？
• RQ2 CNNの階層的・構成的構造は、FCM や CFSFDP といった従来のアルゴリズムに比べて、クラスタリング性能をどのように向上させるか？
• RQ3 人間被験者は、最先端のクラスタリング手法よりも、CNNが生成するクラスタリングをどれほど好むか？
• RQ4 最小限の教師信号でのエンドツーエンド訓練により、CNNが教師なしクラスタリングに適した表現を学習できるか？
• RQ5 視覚腹側ストリームの階層的組織が、人間の知覚に類似したクラスタリングを可能にする役割を果たすか？

主な発見

• 14名の被験者を対象としたユーザースタディにおいて、CNNが生成するクラスタリングは、FCM や CFSFDP よりも顕著に多く選択された（p = 2.52e-06 および p = 0.045）。これは、人間の知覚と強い整合性があることを示している。
• 2つのクラスタや3つのクラスタを含む300個の合成刺激において、CNNはFCM や CFSFDP よりも平均的に高い正解率を達成した。
• モデルは、従来のクラスタリングアルゴリズムがしばしば失敗する、重なった半円のような複雑で遮蔽されたクラスタ形状を効果的に処理できた。
• 結果から、階層的深層学習フレームワークが、データから複雑な構成的パターンを学習することで、分類とクラスタリングを統合できることを示している。
• 本研究は、CNNの教師なしまたは弱教師あり訓練が、人間水準のクラスタリング性能に至る有効な道筋である可能性を示唆している。
• 著者らは、人間の視覚の階層的構造をクラスタリングアルゴリズムに組み込むことが、強固で一般化可能な性能を達成するための不可欠な要素であると結論づけている。