[論文レビュー] Binding via Reconstruction Clustering

Klaus Greff, Rupesh K. Srivastava+1 more|arXiv (Cornell University)|Nov 19, 2015

Generative Adversarial Networks and Image Synthesis参考文献 26被引用数 23

ひとこと要約

本稿では、畳み込みオートエンコーダ（DAE）とEMに類似したクラスタリングプロセスを用いて、1つの入力内に複数のオブジェクトの分散特徴を動的に結合する確率的フレームワーク、Reconstruction Clustering（RC）を提案する。特徴間の相互予測可能性を活用することで、複数オブジェクトのシーンにおいてオブジェクトを分離し、学習時に見未曾なオブジェクトの組み合わせにも一般化可能であり、二値画像データセットにおいてゼロショットでのオブジェクト結合を示している。

ABSTRACT

Disentangled distributed representations of data are desirable for machine learning, since they are more expressive and can generalize from fewer examples. However, for complex data, the distributed representations of multiple objects present in the same input can interfere and lead to ambiguities, which is commonly referred to as the binding problem. We argue for the importance of the binding problem to the field of representation learning, and develop a probabilistic framework that explicitly models inputs as a composition of multiple objects. We propose an unsupervised algorithm that uses denoising autoencoders to dynamically bind features together in multi-object inputs through an Expectation-Maximization-like clustering process. The effectiveness of this method is demonstrated on artificially generated datasets of binary images, showing that it can even generalize to bind together new objects never seen by the autoencoder during training.

研究の動機と目的

• 表現学習におけるバインディング問題に対処すること。すなわち、複数のオブジェクトの分散特徴が重なり合い、共有表現において曖昧さを生じさせること。
• 静的または局所的な結合に依存せず、独立したオブジェクトの合成として入力をモデル化する数学的に厳密な教師なしフレームワークを構築すること。
• 再構築予測可能性に基づく動的クラスタリングにより、学習時に観測されなかった新たなオブジェクトの組み合わせにも一般化できること。
• 表現学習手法（例：ノイズ除去オートエンコーダ）と統合可能であり、その表現力と一般化能力を損なわず、バインディング問題を解決すること。
• ゲシュタルト原理（例：近接性、連続性）が、学習されたクラスタリング機構から自然に出現するかどうかを検討すること。

提案手法

• 本手法は、入力から静的で分散した特徴を抽出するためのノイズ除去オートエンコーダ（DAE）を用い、その後、これらの特徴をもとに動的クラスタリングを実行する。
• 期待値最大化（EM）に類似したアルゴリズムが、相互予測可能性に基づいて特徴を繰り返しクラスタリングする：互いに欠損部分を再構築できる特徴は、同じオブジェクトに属するものとしてグループ化される。
• 再構築プロセスでは、各クラスタを潜在的なオブジェクトとして扱い、クラスタリングの目的関数は、各クラスタ内における特徴間の相互予測性を最大化することである。
• アルゴリズムは、特徴をクラスタに割り当てる（Eステップ）ことと、DAEによる再構築を通じてクラスタパラメータを更新する（Mステップ）ことの繰り返しにより、反復的にオブジェクト境界を精緻化する。
• フレームワークは教師なしで学習され、オブジェクトラベルの教師信号は一切不要であり、再構築誤差と特徴の予測可能性に依存する。
• 本手法は汎用的であり、実数値入力やより複雑なアーキテクチャへの応用が可能で、深いオートエンコーダーやアテンション機構との統合も可能である。

実験結果

リサーチクエスチョン

• RQ1 オブジェクト構造の事前知識なしに、確率的フレームワークが1つの入力内に複数のオブジェクトの分散特徴を動的に結合できるか？
• RQ2 再構築予測可能性に基づくだけで、学習時に観測されなかった新たなオブジェクトの組み合わせにも一般化して結合できるか？
• RQ3 クラスタリングプロセスは、空間的近接性といったゲシュタルト的原則を、明示的な監視なしに自然に回復できるか？
• RQ4 分離性と一般化性能の観点から、静的または局所的結合メカニズムと比較して、本手法はどのように差を示すか？
• RQ5 再構築に基づくクラスタリングは、ノイズ除去オートエンコーダのみを用いて、教師なしで複数オブジェクトシーンを効果的にセグメンテーションできるか？

主な発見

• 本手法は、特徴間の相互予測性に基づくクラスタリングにより、空間的に重なっている場合でさえも、二値画像データセットにおいて複数のオブジェクトを効果的に分離した。
• RCは、学習時に観測されなかった新たなオブジェクトの組み合わせにも一般化可能であり、動的再構築クラスタリングによりゼロショットでのオブジェクト結合能力を示した。
• モデルはオブジェクトクラスタリングにおいて空間的近接性を好み、明示的な空間的レイアウトの監視がなくても、縦方向の整列へのゲシュタルト的バイアスを示した。
• クラスタリングプロセスはノイズに強く、同じオブジェクトの他の部分からの特徴を用いて欠損部分を回復できるため、強い内部一貫性を示した。
• フレームワークはノイズ除去オートエンコーダとシームレスに統合可能であり、その表現力と一般化能力を保ちつつ、バインディング問題を解決した。
• 今後の拡張において、再構築に基づくクラスタリング機構から、連続性や類似性といったゲシュタルト原理が自然に出現する可能性が示唆された。