[論文レビュー] The Role of Minimal Complexity Functions in Unsupervised Learning of Semantic Mappings

Tomer Galanti, Lior Wolf+1 more|arXiv (Cornell University)|Aug 31, 2017

Machine Learning and Algorithms参考文献 30被引用数 14

ひとこと要約

本稿では、教師なしクロスドメイン変換における意味的アライメントが、分布の類似性とサイクル整合性を保つ最小複雑性関数を学習することによって達成されることを提案する。神経ネットワークの深さを用いて複雑性を形式化し、最小記述長とオッカムの剃刀に基づく理論的枠組みを活用することで、最小複雑性関数が一意に特定可能であり、実験的に最適であることが示された。アブレーションスタディおよび先行手法を上回る性能を示す新アルゴリズムにより検証された。

ABSTRACT

We discuss the feasibility of the following learning problem: given unmatched samples from two domains and nothing else, learn a mapping between the two, which preserves semantics. Due to the lack of paired samples and without any definition of the semantic information, the problem might seem ill-posed. Specifically, in typical cases, it seems possible to build infinitely many alternative mappings from every target mapping. This apparent ambiguity stands in sharp contrast to the recent empirical success in solving this problem. We identify the abstract notion of aligning two domains in a semantic way with concrete terms of minimal relative complexity. A theoretical framework for measuring the complexity of compositions of functions is developed in order to show that it is reasonable to expect the minimal complexity mapping to be unique. The measured complexity used is directly related to the depth of the neural networks being learned and a semantically aligned mapping could then be captured simply by learning using architectures that are not much bigger than the minimal architecture. Various predictions are made based on the hypothesis that semantic alignment can be captured by the minimal mapping. These are verified extensively. In addition, a new mapping algorithm is proposed and shown to lead to better mapping results.

研究の動機と目的

• 教師なしクロスドメイン変換における明確でない曖昧さを解消する。すなわち、分布とサイクル整合性の制約を満たす関数は無限に存在するが、それらのうちどれが真の意味的マッピングかが不明である。
• 真の意味的マッピングが、すべての有効なマッピングの中から最小複雑性関数に一致するという仮説を形式化する。
• 神経ネットワークの深さと構成の複雑性に基づいて、関数の複雑性を測定する理論的枠組みを構築する。
• 最小複雑性マッピングが一意に特定可能であり、優れたアライメント性能をもたらすことを検証する。
• 最小複雑性に基づく新しい教師なしマッピングアルゴリズムを提案し、一般化性能とアライメント品質の向上を図る。

提案手法

• 両ドメインが共有潜在空間からの変換として見なされる生成モデルを導入し、ドメインと潜在空間の間で可逆なマッピングを仮定する。
• マッピングの複雑性を、それを表現するために必要なニューラルネットワークの深さとして定義し、複雑性とモデルアーキテクチャのサイズを関連付ける。
• 最小複雑性マッピングが、ターゲット分布とのずれが小さく、サイクル整合性を満たすという点で、唯一の解であるという仮説を形式化する。
• 被覆数と不一致測度を用いて、最小複雑性マッピングの数の理論的上限を導出する。
• 理論的最小値に近いアーキテクチャで学習することで、最小複雑性を強制する新しいアルゴリズムを提案する。
• DiscoGANおよびCycleGANにおけるアブレーションスタディを通じて、ネットワークの深さを変化させ、アライメント品質を測定することで予測を検証する。

実験結果

リサーチクエスチョン

• RQ1 CycleGAN や DiscoGAN といった教師なしドメイン変換手法が、ペairedデータや意味的監視が欠如しているにもかかわらずなぜ成功するのか？
• RQ2 分布とサイクル整合性の制約を満たす無限に存在するマッピングの中から、意味的マッピングが一意に定まる理論的根拠はあるか？
• RQ3 神経ネットワークの深さと構成の複雑性を用いて、最小複雑性マッピングを形式的に定義・測定できるか？
• RQ4 最小アーキテクチャで学習することで、より深いモデルに比べて優れた意味的アライメントが得られるか？
• RQ5 最小複雑性に基づく新しいアルゴリズムが、既存の教師なしマッピング手法を上回る性能を発揮できるか？

主な発見

• 最小複雑性マッピングの数は少ないはずであり、意味的アライメント解の一意性を支持する。
• CelebA および Aerial-to-Map データセットにおける実験から、WGANベースの学習では6層が最適な結果をもたらすことが判明した。一方、より深いネットワーク（例：10層）では、不一致が低くてもアライメント性能が劣化した。
• Cityscapes からセグメンテーションへのタスクでは、8層モデルが最高の平均ピixeル正確度（60％）と平均IoU（13％）を達成し、12層モデル（51％正確度、8％IoU）を上回った。
• 最小複雑性に基づく提案アルゴリズムは、ベースライン手法に比べてより優れたマッピング結果を達成しており、特に意味的構造の保持において顕著な優位性を示した。
• 理論的分析により、与えられた制約下で最小複雑性マッピングが一意に特定可能であることが確認され、単純さが意味的アライメントを駆動するという仮説を支持した。
• 複数のアーキテクチャ（DiscoGAN、CycleGAN、WGAN）において一貫した結果が得られ、最小複雑性仮説の一般化可能性を検証した。