[論文レビュー] Similarity of Neural Network Models: A Survey of Functional and Representational Measures

Max Klabunde, Tobias Schumacher+2 more|arXiv (Cornell University)|May 10, 2023

Model Reduction and Neural Networks被引用数 14

ひとこと要約

ニューラルネットワークの表現的および機能的類似度指標の包括的な調査で、用語、特性、未解決の課題を統一する。

ABSTRACT

Measuring similarity of neural networks to understand and improve their behavior has become an issue of great importance and research interest. In this survey, we provide a comprehensive overview of two complementary perspectives of measuring neural network similarity: (i) representational similarity, which considers how activations of intermediate layers differ, and (ii) functional similarity, which considers how models differ in their outputs. In addition to providing detailed descriptions of existing measures, we summarize and discuss results on the properties of and relationships between these measures, and point to open research problems. We hope our work lays a foundation for more systematic research on the properties and applicability of similarity measures for neural network models.

研究の動機と目的

• 隠れ層の表現と分類などのタスクにおける出力の挙動という2つの補完的な次元に沿ってニューラルネットワークを比較する問題を定義する。
• 表現と出力の両方に対する既存の類似度指標の体系的で統一的な概観を提供する。
• 適用と解釈を導くために、前処理、不変性、および指標の実用的特性を明確にする。
• 表現的類似性と機能的類似性の関係を分析し、それらが一致する場合と乖離する場合を論じる。
• ニューラルネットワークの類似性研究における未解決の課題と今後の方向性を強調する。

提案手法

• ニューラルネットワークを層状の合成として形式化し、表現的（活性化）と機能的（出力）の2つの類似性視点を定義する。
• 表現的指標をカテゴリ（例：CCAベース、アライメントベース、その他）に分類し、それらの不変性と前処理の必要性を要約する。
• アライメントベースの手法（例：Orthogonal Procrustes、Generalized Shape Metrics）とそれらの不変性を説明する。
• 前処理手順（正規化、次元削減/調整、フラット化）と、それらが指標の不変性に与える影響を論じる。
• 表現的類似性と機能的類似性の相互作用を概説し、いつ乖離または一致する可能性があるかを含めて論じる。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークの既存の表現的および機能的類似度指標は何か？
• RQ2 これらの指標はどのように関連し、モデルの類似性を特徴づける際にどのような状況で一致または相反するか？
• RQ3 これらの指標の実用的特性（頑健性、不変性、前処理の必要性）は何で、適用性にどう影響するか？
• RQ4 ニューラルネットワークの類似性の体系的研究において、未解決の問題と研究ギャップは何か？

主な発見

• 本調査は、表現的類似性と機能的類似性を区別する形式的で統一的な枠組みを提供し、それぞれの多様な指標を網羅的に調査している。
• 表現的指標はカテゴリ化されている（例：SVCCAやPWCCAのようなCCAベース、Orthogonal Procrustesのようなアライメントベースなど）—明示的な不変性と前処理要件とともに。
• 機能的類似度指標は主に多クラス分類の文脈で議論され、ブラックボックスアクセスで機能することが多く、実用性を際立たせている。
• 表現的類似性と機能的類似性の間に保証された相関はなく、高い機能的類似性が必ずしも類似表現を意味するわけではなく、その逆も同様である。慎重な解釈が必要。
• 本論文は未解決の研究課題を特定し、指標の特性、不変性、およびタスクやアーキテクチャ全体にわたる適用性の体系的な分析の必要性を強調している。