[논문 리뷰] Similarity of Neural Network Models: A Survey of Functional and Representational Measures

Max Klabunde, Tobias Schumacher외 2명|arXiv (Cornell University)|2023. 05. 10.

Model Reduction and Neural Networks인용 수 14

한 줄 요약

포괄적인 신경망 표현적 및 기능적 유사도 측정 방법의 고찰로, 용어, 특성 및 난제를 통합합니다.

ABSTRACT

Measuring similarity of neural networks to understand and improve their behavior has become an issue of great importance and research interest. In this survey, we provide a comprehensive overview of two complementary perspectives of measuring neural network similarity: (i) representational similarity, which considers how activations of intermediate layers differ, and (ii) functional similarity, which considers how models differ in their outputs. In addition to providing detailed descriptions of existing measures, we summarize and discuss results on the properties of and relationships between these measures, and point to open research problems. We hope our work lays a foundation for more systematic research on the properties and applicability of similarity measures for neural network models.

연구 동기 및 목표

• 숨겨진 계층의 표현과 분류와 같은 작업에서의 출력 행동 두 가지 보완 차원으로 신경망을 비교하는 문제를 정의한다.
• 표현 및 출력에 대한 기존 유사도 측정 방법을 체계적이고 통합적으로 개관한다.
• 측정 방법의 전처리, 불변성 및 실용적 특성을 명확히 하여 적용 및 해석을 안내한다.
• 표현적 유사성과 기능적 유사성 간의 관계를 분석하고 언제 일치하거나 발산하는지 논의한다.
• 신경망 유사성 연구의 미해결 과제와 향후 방향에 대해 강조한다.]

제안 방법

• 신경망을 층으로 구성된 합성으로 형식화하고 두 가지 유사도 관점(표현적(활성화)과 기능적(출력))을 정의한다.
• 표현적 측정치를 범주로 분류한다(예: CCA 기반, 정렬 기반, 기타) 및 그 불변성 및 전처리 필요성을 요약한다.
• 정렬 기반 접근법(예: Orthogonal Procrustes, Generalized Shape Metrics)과 그 불변성 특성을 설명한다.
• 전처리 단계(정규화, 차원 축소, 평탄화)와 이것이 측정 불변성에 미치는 영향을 논의한다.
• 표현적 유사성과 기능적 유사성 간의 상호작용을 개략적으로 제시하고, 언제 발산하거나 상호 확인될 수 있는지 설명한다.

실험 결과

연구 질문

• RQ1 신경망에 대한 기존의 표현적 및 기능적 유사도 측정 방법은 무엇인가?
• RQ2 이 방법들은 어떻게 연관되어 있으며, 어떤 시나리오에서 모델 유사성을 특징짓는 데 동의하거나 충돌하는가?
• RQ3 이들 측정의 실제 특성(강인성, 불변성, 전처리 필요성)은 무엇이며, 적용 가능성에 어떤 영향을 미치는가?
• RQ4 신경망 유사성의 체계적 연구에서 어떤 남은 문제와 연구 격차가 있는가?

주요 결과

• 본 고찰은 표현적 유사성과 기능적 유사성을 구분하는 형식적이고 통합된 프레임워크를 제시하고 각 측정의 폭넓은 범위를 조사한다.
• 표현적 측정은 범주화되며(예: SVCCA, PWCCA 같은 CCA 기반; Orthogonal Procrustes 같은 정렬 기반) 명시된 불변성과 전처리 요건을 가진다.
• 기능적 유사도 측정은 주로 다중 클래스 분류 맥락에서 논의되며, 종종 블랙박스 접근으로도 작동할 수 있어 실용적 적용 가능성을 강조한다.
• 표현적 유사성과 기능적 유사성 사이에 보장된 상관관계가 없으며, 높은 기능적 유사성이 반드시 비슷한 표현으로 이어지지 않고 그 반대 também 있을 수 있어 해석에 주의가 필요하다.
• 본 논문은 연구의 미해결 과제와 측정 특성, 불변성 및 다양한 작업 및 아키텍처에서의 적용 가능성에 대한 체계적 분석의 필요성을 강조한다.