[논문 리뷰] Representation Topology Divergence: A Method for Comparing Neural Network Representations

Serguei Barannikov, Ilya Trofimov외 2명|arXiv (Cornell University)|2021. 12. 31.

Cell Image Analysis Techniques인용 수 9

한 줄 요약

이 논문은 대규모 스케일의 위상적 이질성 간의 일대일 대응이 있는 두 점군 사이의 위상적 특징을 측정함으로써 신경망 표현을 비교하는 새로운 방법인 표현 위상 다이버전스(RTD)를 제안한다. 이는 서로 다른 환경 공간에 임bedded될 수 있으며, CKA, SVCCA, IMD보다 더 높은 성능을 보이며, 구조적 차이를 잘 포착하고, 모델 예측 불일치와 강한 상관관계가 있으며, 군집, 빈공간과 같은 위상적 특징에 민감하다.

ABSTRACT

Comparison of data representations is a complex multi-aspect problem that has not enjoyed a complete solution yet. We propose a method for comparing two data representations. We introduce the Representation Topology Divergence (RTD), measuring the dissimilarity in multi-scale topology between two point clouds of equal size with a one-to-one correspondence between points. The data point clouds are allowed to lie in different ambient spaces. The RTD is one of the few TDA-based practical methods applicable to real machine learning datasets. Experiments show that the proposed RTD agrees with the intuitive assessment of data representation similarity and is sensitive to its topological structure. We apply RTD to gain insights on neural networks representations in computer vision and NLP domains for various problems: training dynamics analysis, data distribution shift, transfer learning, ensemble learning, disentanglement assessment.

연구 동기 및 목표

• 하류 작업 성능에 의존하지 않고 원칙적이고 위상 정보를 반영한 신경망 표현 비교 방법의 부족을 해결하기 위해.
• 학습된 표현에서의 군집, 빈공간, 공동과 같은 구조적 차이에 민감한 메트릭을 개발하기 위해.
• 실제 컴퓨터 비전 및 NLP 데이터셋에 적용 가능한 실용적이고 확장 가능한 위상 데이터 분석(TDA) 기반 접근법을 제공하기 위해.
• 학습 동적, 분포 이탈, 전이 학습, 분리 가능성 평가 등 다양한 상황에서 RTD를 평가하기 위해.

제안 방법

• 이 방법은 일대일 대응이 있는 두 점군 P와 P̃로부터 R-Cross-Barcode를 구성하여 다중 척도에서 공유되는 위상적 특징을 표현한다.
• 지속적 호모로지(persistent homology)를 사용해 거리 임계값 범위에서 위상적 특징(예: 연결 성분, 고리, 빈공간)의 변화를 추적한다.
• 표현 위상 다이버전스(RTD) 점수는 R-Cross-Barcode 벡터 간의 차이의 L2 노름으로 계산되며, 위상적 이질성을 정량화한다.
• 이 방법은 선형 변환에 대해 불변이며, CCA 기반 방법과 달리 비선형 위상적 구조에 민감하다.
• 점군이 서로 다른 환경 공간에 존재할 수 있도록 허용하여, 이전의 위상 비교 방법에서의 핵심 제약 사항을 극복한다.
• 효율적으로 구현되었고 오픈소스로 제공되어 실제 딥러닝 벤치마크에의 적용을 가능하게 한다.

실험 결과

연구 질문

• RQ1 선형 또는 커널 기반 유사도를 넘어서 군집, 빈공간 등의 기저 위상적 구조를 포착할 수 있는 방식으로 신경망 표현을 비교할 수 있는 방법은 무엇인가?
• RQ2 RTD는 인간 또는 모델 기반의 표현 유사성 직관과 얼마나 관련이 깊은가, 특히 선형 상관관계에서는 유사하지만 구조적으로 다른 표현의 경우에 대해 어떻게 평가되는가?
• RQ3 학습 과정, 데이터 분포 이탈, 파인튜닝 중에 표현의 위상적 변화를 탐지할 수 있는가? 다른 메트릭이 실패하는 상황에서도 RTD는 의미 있는 변화를 감지할 수 있는가?
• RQ4 생성 모델의 분리 가능성 평가에서 RTD는 해석 가능한 요소(예: 형태, 위치) 방향과 무작위 방향에 따라 잠재 공간의 조각을 비교할 때 어떻게 성능을 보이는가?
• RQ5 비전 및 NLP 작업 전반에서 CKA, SVCCA, IMD와 같은 기존 메트릭보다 RTD가 표현의 구조적 차이를 더 잘 포착하는가?

주요 결과

• RTD는 모델 예측 불일치와 높은 상관관계를 보이며, 일반화에 영향을 주는 표현의 의미 있는 차이를 잘 포착하고 있음을 시사한다.
• 학습 동적 분석에서 RTD는 CKA가 포착하지 못하는 위상적 특징(예: 빈공간의 출현)과 같은 표현의 구조적 변화를 드러낸다.
• CIFAR-100에서 CIFAR-10으로의 파인튜닝 작업에서 RTD는 CKA, SVCCA, IMD보다 표현 이동을 더 잘 탐지한다.
• dSprites에서의 분리 가능성 평가에서 RTD는 해석 가능한 요소(예: 형태, 위치) 방향에서는 무작위 방향보다 유의미하게 낮은 이질성을 보이며, 의미 있는 요소에 민감함을 확인한다.
• ResNet-50와 ConvNeXt-tiny의 레이어별 분석에서 RTD는 CKA나 SVCCA보다 네트워크의 블록 구조를 더 잘 드러내며, 표현 위상에서 아키텍처 설계의 영향을 강조한다.
• UMAP로 압축한 MNIST에 적용했을 때 RTD는 CKA 유사 메트릭에서 성능이 떨어지며, 선형 또는 RBF 기반 CKA가 간과하는 위상적 비일관성을 포착하고 있음을 시사한다.