[論文レビュー] Combinets: Creativity via Recombination of Neural Networks

Matthew Guzdial, Mark Riedl|arXiv (Cornell University)|Feb 10, 2018

Domain Adaptation and Few-Shot Learning参考文献 37被引用数 11

ひとこと要約

本論文は、バックプロパゲーションを伴わずに、事前に訓練済みのモデルを再結合することで新しいニューラルネットワークモデル（combiNETおよびcombiGANと呼ばれる）を生成する概念的拡張という手法を導入する。この手法は、モデルの構造的および特徴レベルの組み合わせを活用することで、少数のラベル付きデータでの画像分類および生成タスクにおいて、従来の転移学習を上回る性能を示し、極めて少ない学習データでも優れた性能を発揮する。

ABSTRACT

One of the defining characteristics of human creativity is the ability to make conceptual leaps, creating something surprising from typical knowledge. In comparison, deep neural networks often struggle to handle cases outside of their training data, which is especially problematic for problems with limited training data. Approaches exist to transfer knowledge from problems with sufficient data to those with insufficient data, but they tend to require additional training or a domain-specific method of transfer. We present a new approach, conceptual expansion, that serves as a general representation for reusing existing trained models to derive new models without backpropagation. We evaluate our approach on few-shot variations of two tasks: image classification and image generation, and outperform standard transfer learning approaches.

研究の動機と目的

• 稀な、新しい、あるいは空想的なクラスに対して学習データが不足する状況で、深層ニューラルネットワークが失敗するという少数の例学習の課題に対処すること。
• 追加のトレーニングやドメイン特化の工学的設計を伴わずに、既存の訓練済みモデルを再利用して新しいモデルを構築する汎用的手法を開発すること。
• 人間の概念的ブレンドにインspiredされた組み合わせ的創造性が、ニューラルネットワークに応用可能かどうかを検討すること。これにより、新しい機能的モデルが生成可能かどうかを検証すること。
• 標準的な転移学習やゼロショットアプローチと比較して、概念的拡張によるモデル再結合の有効性を評価すること。

提案手法

• バックプロパゲーションを伴わず、複数の事前に訓練済みニューラルネットワークを再結合して新しいモデルを構築するための柔軟な表現として概念的拡張を提案する。
• ドメイン固有のヒューリスティクスと特徴の互換性に基づいて、最適なモデルの組み合わせを探索的に同定するアプローチを採用する。
• 深層畳み込み生成対抗ネットワーク（DCGAN）と分類器を用いて、画像分類および画像生成タスクの両方へこの手法を適用する。
• combiGANでは、ベースラインモデルの識別器をヒューリスティクスとして用い、レアクラス（例：キツネ）の現実的な画像を合成可能にする。
• 実画像と生成画像のクラス分布間のKLダイバージェンスとインセプションスコアを用いて、物体性とキツネに似た外見の度合いを測定する。
• ヒューリスティクスとして、ナーブなベースラインまたは転移学習の識別器を用いてcombiGANの変種を構築し、標準ベースラインと比較可能にする。

実験結果

リサーチクエスチョン

• RQ1 事前に訓練済みのニューラルネットワークを再結合して、再トレーニングを伴わずに少数の例学習問題を解決できるか？
• RQ2 モデル再結合による概念的拡張は、少数の例画像分類および生成タスクにおいて、標準的な転移学習を上回る性能を発揮するか？
• RQ3 従来の微調整や転移学習と比較して、制限された学習データ下での概念的拡張の性能はどのように変化するか？
• RQ4 モデルの構造的および特徴レベルの組み合わせが、意味的で汎用性のある新しい能力を生み出せるか？

主な発見

• combiGANの変種（combi+Nおよびcombi+T）は、ナーブなベースラインおよび転移学習ベースラインを上回り、特に小さな学習データセット下でキツネに似た画像を生成する点で優れた性能を示した。
• 10枚の学習画像を用いた場合、KLダイバージェンスの指標では転移ベースラインがわずかに優れていた（0.11 vs. 0.13）、しかしcombiGANの出力は顔の特徴をより一貫して保っていた。
• combiGANの出力は視覚的品質と構造的一致性に優れており、転移学習ベースラインで一般的に見られるぼんやりとしたブロブアーチファクトを回避していた。
• 本手法は低データ環境においても頑健であり、少ない例数で学習した場合でも、自らの性能を上回ることがしばしば見られた。
• 本手法は高いインセプションスコアを達成し、実際のキツネの画像とのクラス分布の整合性も向上させ、生成されたサンプルの物体性と現実性が向上していた。