[論文レビュー] Learning From Brains How to Regularize Machines

Zhe Li, Wieland Brendel+8 more|arXiv (Cornell University)|Nov 11, 2019

Cell Image Analysis Techniques被引用数 12

ひとこと要約

本論文では、大規模なマウス視覚皮膚の記録から得られる表現的類似性を用いて畳み込みニューラルネットワーク（CNN）を正則化することで、ノイズや adversarial 攻撃に対する耐性を向上させることを提案している。神経応答の予測モデルを訓練し、生物学的にインspiredされた表現からの逸脱をペナルティ化することで、標準的な精度を損なわずにモデルの一般化性能を向上させ、摂動下でもベースラインおよび制御モデルを著しく上回る性能を達成した。

ABSTRACT

Despite impressive performance on numerous visual tasks, Convolutional Neural Networks (CNNs) --- unlike brains --- are often highly sensitive to small perturbations of their input, e.g. adversarial noise leading to erroneous decisions. We propose to regularize CNNs using large-scale neuroscience data to learn more robust neural features in terms of representational similarity. We presented natural images to mice and measured the responses of thousands of neurons from cortical visual areas. Next, we denoised the notoriously variable neural activity using strong predictive models trained on this large corpus of responses from the mouse visual system, and calculated the representational similarity for millions of pairs of images from the model's predictions. We then used the neural representation similarity to regularize CNNs trained on image classification by penalizing intermediate representations that deviated from neural ones. This preserved performance of baseline models when classifying images under standard benchmarks, while maintaining substantially higher performance compared to baseline or control models when classifying noisy images. Moreover, the models regularized with cortical representations also improved model robustness in terms of adversarial attacks. This demonstrates that regularizing with neural data can be an effective tool to create an inductive bias towards more robust inference.

研究の動機と目的

• マウス視覚皮膚からの生物学的ニューロン表現類似性を組み込むことで、ディープラーニングモデルの耐性が向上するかを調査すること。
• 特にノイズや adversarial 入力の下で、人工ニューラルネットワークと生物学的脳の間の耐性のギャップを是正すること。
• 実際の神経活動から得たインダクティブバイアスをCNNに埋め込むデータ駆動型正則化手法を開発すること。
• 神経表現類似性が、ランダム特徴量や事前学習済みVGGモデルの特徴量よりもより効果的なインダクティブバイアスを提供するかを評価すること。

提案手法

• 5100枚の自然グレースケール画像にさらされた覚醒状態のマウスの一次視覚皮膚で、数千個のニューロンの集団応答を記録した。
• 各ニューロンの信号対ノイズ比を計算して応答を重み付けし、神経類似性推定の信頼性を向上させた。
• 繰り返し試行（オラクル画像）を用いて神経活動の強力な予測モデルを訓練し、ノイズ除去された表現予測を可能にした。
• 予測された神経応答に基づいて、画像ペア間の表現的類似性行列を計算した。
• 中間特徴活性が神経類似性構造から逸脱するのを防ぐために、CNNの損失関数を修正した。
• 分類と神経類似性正則化の両方を最適化するようにResNetモデルを訓練し、学習可能な重み係数αを用いた。

実験結果

リサーチクエスチョン

• RQ1 マウス視覚皮膚からの神経表現類似性を用いた正則化は、入力摂動に対するCNNの耐性を向上させることができるか？
• RQ2 神経ベースの正則化は、ランダム特徴量や事前学習済みVGGモデルの特徴量を用いた正則化よりも優れているか？
• RQ3 正則化の対象となるネットワーク層の選択が、モデルの性能と安定性に与える影響は何か？
• RQ4 向上した耐性は、勾配マスキングなどのアーチファクトではなく、真のインダクティブバイアスによるものか？
• RQ5 このアプローチは、さまざまな種類の adversarial 攻撃やノイズ分布に一般化可能か？

主な発見

• ノイズが加えられた画像の分類において、神経表現類似性を用いた正則化モデルは、ベースラインモデルよりも顕著に高い正確性を達成した。
• 神経正則化モデルは、$L_0$、$L_1$、$L_2$、$L_∞$ の複数の $L_p$ 範囲において、adversarial 耐性が著しく向上し、ベースラインおよび制御モデルを上回った。
• PGD、C&W、JSMA、Brendel & Bethge といった多様な adversarial 攻撃に対して、耐性向上が一貫して観察され、一般化性能の真の向上を示した。
• 正則化効果は神経類似性に特異的であり、シャッフル済みまたはVGGベースの特徴量で正則化したモデルは著しく低い改善を示した。
• 最適な正則化層は決定論的ではなく、初期から中程度の畳み込み層に傾向しており、層選択は正則化強度αに影響を受けていた。
• この方法は、標準的なImageNet分類性能を維持しながら耐性を向上させたため、生物学的インダクティブバイアスを人工ネットワークに効果的に転送可能であることが示された。