[論文レビュー] Are Neural Nets Modular? Inspecting Functional Modularity Through Differentiable Weight Masks

Róbert Csordás, Sjoerd van Steenkiste+1 more|arXiv (Cornell University)|Oct 5, 2020

Topic Modeling参考文献 60被引用数 13

ひとこと要約

この論文は、特定のサブタスクに責任を持つ重みを分離するように訓練される微分可能で確率的なバイナリマスクを用いて、事前学習済みニューラルネットワーク内の機能的モジュールを同定する手法を提案する。研究では、標準的なネットワークがしばしば異なる機能に特化している一方で、共有モジュールを再利用しないことが判明しており、これは特に言語タスク（例：SCAN）や画像分類において、クラス固有の特徴が支配的になることから顕著に現れる非構成的解決策である。

ABSTRACT

Neural networks (NNs) whose subnetworks implement reusable functions are expected to offer numerous advantages, including compositionality through efficient recombination of functional building blocks, interpretability, preventing catastrophic interference, etc. Understanding if and how NNs are modular could provide insights into how to improve them. Current inspection methods, however, fail to link modules to their functionality. In this paper, we present a novel method based on learning binary weight masks to identify individual weights and subnets responsible for specific functions. Using this powerful tool, we contribute an extensive study of emerging modularity in NNs that covers several standard architectures and datasets. We demonstrate how common NNs fail to reuse submodules and offer new insights into the related issue of systematic generalization on language tasks.

研究の動機と目的

• 標準的なニューラルネットワークが、再利用可能な、タスク固有の機能を実装するサブネットワークとしての機能的モularityを自発的に発展させるかどうかを調査すること。
• 従来の研究が接続性や活性化パターンに基づいてモジュールを定義するのに対し、機能的役割に基づく定義のギャップを埋めること。
• 再利用と特化の度合いを測定することで、出現したモジュールが構成性をサポートするかどうかを評価すること。
• 特定のターゲット行動を担うサブネットワークに基づいた、機能的定義のモularityを提供すること。
• なぜ標準的なネットワークが、理論的には優位であるにもかかわらず、再利用可能なモジュールを学習できないのかを説明すること。

提案手法

• 元のネットワーク重みを凍結したまま、すべてのネットワーク重みに対して微分可能で確率的なバイナリマスクを訓練する。
• 特定のターゲット機能（例：単一の画像クラスの分類、言語コマンドのサブセットの分類）に対応する補助タスクを用いてマスクを訓練する。
• 勾配ベース最適化を用いて、各ターゲット機能を実行するために重要な重みを学習する。
• マスクを適用して特定のサブネットワークを隔離した際の性能変化を評価することで、機能的モularityを測定する。
• マスク適用時の性能低下に基づいて、連続的指標として特化度（P_specialize）と再利用度（P_reuse）を定量化する。
• 画像および言語データセットにおける、フィードフォワード、CNN、RNN、Transformer、ResNetなど多様なアーキテクチャにこの手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 標準的なニューラルネットワークは、特定のサブタスクに対応する機能的モジュールを自発的に発展させるのか？
• RQ2 同じ機能に対して再利用される度合いを測定することで、これらのモジュールがどの程度構成性をサポートするのか？
• RQ3 言語およびビジョンタスクにおける体系的一般化と機能的モularityの関係は何か？
• RQ4 理論的には優位であるにもかかわらず、なぜ標準的なネットワークは再利用可能なモジュールを学習できないのか？
• RQ5 画像分類器におけるクラス固有の特徴は機能的モularityを示唆するものなのか？ また、一般化にどのように影響するか？

主な発見

• 標準的なニューラルネットワークは強い特化（P_specialize）を示すが、同じ機能に対して同じモジュールを再利用しない（P_reuseが低い）ため、構成的学習の欠如が顕在化している。
• SCANデータセットでは、類似したコマンド構造に対して固有の重みが学習され、体系的一般化に失敗する非構成的解決策が明らかになった。
• 画像分類では、クラス固有の特徴検出器を除去すると、単純なCNNでは性能低下が40–60％、ResNet-110ではほぼ100％に達し、クラス固有のモジュールに強く依存していることが示された。
• ドロップアウトの有無が、クラス固有の特徴を除去した際の性能低下を増幅させることから、ドロップアウトはこのようなモジュールへの依存を強化することが示唆された。
• CIFAR-10における誤認識パターン（例：飛行機と鳥、船）は、背景色のような共有視覚的特徴に起因しており、共有機能的モジュールによるものではない。
• 数学データセットでも同様の再利用の欠如が確認され、この問題が現実世界の複雑な推論タスクにおいても継続的に存在することが裏付けられた。