[論文レビュー] Complex-Valued Autoencoders for Object Discovery

Sindy Löwe, Phillip Lippe+2 more|arXiv (Cornell University)|Apr 5, 2022

Neural Networks and Applications被引用数 9

ひとこと要約

本稿では、複素数の活性化を用いて分散的・オブジェクト中心の表現を学習する、シンプルでエンド・ツー・エンドで学習可能な自己符号化アーキテクチャ、複素数自己符号化器（CAE）を提案する。特徴の存在は大きさに、オブジェクトのバインディングは相対位相差によって符号化することで、神経科学的時間的相関仮説にインspiredされたCAEは、先行する複素数モデルを上回り、最新のスロットベースの手法よりも最大100倍速く学習可能である。性能面でも競争力があり、非教師ありオブジェクト発見の性能を達成している。

ABSTRACT

Object-centric representations form the basis of human perception, and enable us to reason about the world and to systematically generalize to new settings. Currently, most works on unsupervised object discovery focus on slot-based approaches, which explicitly separate the latent representations of individual objects. While the result is easily interpretable, it usually requires the design of involved architectures. In contrast to this, we propose a comparatively simple approach - the Complex AutoEncoder (CAE) - that creates distributed object-centric representations. Following a coding scheme theorized to underlie object representations in biological neurons, its complex-valued activations represent two messages: their magnitudes express the presence of a feature, while the relative phase differences between neurons express which features should be bound together to create joint object representations. In contrast to previous approaches using complex-valued activations for object discovery, we present a fully unsupervised approach that is trained end-to-end - resulting in significant improvements in performance and efficiency. Further, we show that the CAE achieves competitive or better unsupervised object discovery performance on simple multi-object datasets compared to a state-of-the-art slot-based approach while being up to 100 times faster to train.

研究の動機と目的

• スロットベースの手法における、アーキテクチャの複雑さ、表現力の制限、階層的構造の表現不能といった限界を解消すること。
• グリーディな事前学習と反復的推論を必要とする、従来の複素数モデル（例：Deep Boltzmann Machine（DBM））の非効率性と不安定性を克服すること。
• 時間的相関仮説を活用した、分散的でオブジェクト中心の表現学習が可能なシンプルでエンド・ツー・エンドで学習可能なアーキテクチャを開発すること。
• 反復的推論手順やアーキテクチャのインダクティブバイアスなしに、効率的で信頼性が高く解釈可能な非教師ありオブジェクト発見を可能にすること。

提案手法

• CAEは、複素数の重みと活性化を用いた畳み込み自己符号化器であり、特徴の存在は大きさに、オブジェクトの同一性は相対位相の整合性によって符号化される。
• 符号化と復元の過程で、ニューロン間での特徴のバインディングを明示的に制御できる、各層に学習可能な位相シフト演算を導入する。
• 入力画像（実数）と再構築された複素数出力の大きさの間で、標準的な平均二乗誤差損失を用いてエンド・ツー・エンドで学習する。
• 訓練後、教師なしで、潜在表現の位相値からオブジェクト同一性を推定する。
• k-meansクラスタリングを潜在位相値に適用することで、位相ベースのオブジェクト分離を実現し、分離されたオブジェクト単位の再構築を可能にする。
• 反復的推論を回避し、安定した複素数の潜在表現を直接出力することで、高速な評価が可能となる。

実験結果

リサーチクエスチョン

• RQ1 アーキテクチャのインダクティブバイアスや反復的推論なしに、シンプルでエンド・ツー・エンドで学習可能な複素数自己符号化器は、分離可能でオブジェクト中心の表現を学習できるか？
• RQ2 時間的相関仮説に従う複素数の活性化を用いることで、従来の複素数モデルよりも信頼性が高く解釈可能なオブジェクト発見が達成できるか？
• RQ3 CAEの性能と学習効率は、2Shapes, 3Shapes, MNIST&Shapeといった標準的なマルチオブジェクトベンチマークにおいて、最新のスロットベースの手法（例：SlotAttention）と比較してどうなるか？
• RQ4 分散的位相ベースのバインディングによって、階層的または構成的オブジェクト構造をCAEが効果的に表現できるか？

主な発見

• CAEは、2Shapes, 3Shapes, MNIST&Shapeデータセットにおいて、SlotAttentionと同等またはそれ以上の非教師ありオブジェクト発見性能を達成しており、学習がはるかに高速である。
• CAEは、2Shapesデータセットで7.6分という総学習時間で、SlotAttentionの759.3分を上回る100倍の高速学習を達成している。
• CAEは、Reichert & Serre (2014) のDBMベースの手法よりも、学習速度と信頼性の面で優れており、グリーディな事前学習や反復的安定化の必要がない。
• CAEの潜在空間における位相値は、オブジェクト同一性ごとに信頼性高く分離されており、定性的な位相マップとk-meansクラスタリングを用いたオブジェクト単位の再構築から明らかである。
• CAEの評価時間は263.9秒であり、SlotAttentionより16.6倍遅いが、反復的プロセスなしに直接推論が可能なため、依然として効率的である。
• 実数の自己符号化器ベースラインは、分離可能な表現を学習できなかったが、CAEは位相ベースのバインディングによりオブジェクトを明確に分離できた。これにより、複素数の活性化が不可欠であることが示された。