[논문 리뷰] Unsupervised Learning of Group Invariant and Equivariant Representations

Robin Winter, Marco Bertolini외 3명|arXiv (Cornell University)|2022. 02. 15.

Medical Imaging and Analysis인용 수 7

한 줄 요약

이 논문은 임의의 군 $G$에 대해 군에 대한 불변 및 군에 등변하는 표현을 분리하는 비지도 자동에코더 프레임워크를 제안한다. 이는 재구성 과정을 정렬하기 위해 학습 가능한 군 작용을 사용한다. 이는 점군, 분자, 3D 형태와 같은 다양한 데이터 유형에서 불변 표현을 학습하는 데 최고 성능을 기록하며, 최소한의 아키텍처 제약 조건과 강력한 일반화 능력을 보인다.

ABSTRACT

Equivariant neural networks, whose hidden features transform according to representations of a group G acting on the data, exhibit training efficiency and an improved generalisation performance. In this work, we extend group invariant and equivariant representation learning to the field of unsupervised deep learning. We propose a general learning strategy based on an encoder-decoder framework in which the latent representation is separated in an invariant term and an equivariant group action component. The key idea is that the network learns to encode and decode data to and from a group-invariant representation by additionally learning to predict the appropriate group action to align input and output pose to solve the reconstruction task. We derive the necessary conditions on the equivariant encoder, and we present a construction valid for any G, both discrete and continuous. We describe explicitly our construction for rotations, translations and permutations. We test the validity and the robustness of our approach in a variety of experiments with diverse data types employing different network architectures.

연구 동기 및 목표

• 군 작용 하에서 데이터의 불변 및 등변 성분을 명시적으로 분리하는 비지도 표현 학습 방법을 개발하는 것.
• 좌표 매개변수화에서 대칭성이 명시되지 않은 경우에도 비지도로 군 불변 표현을 학습하는 데 도전하는 것.
• 이산 및 연속 군을 포함한 모든 군 $G$에 대해 유효한 일반 프레임워크를 구축하는 것.
• 자동에코더에서 군 대칭성을 인덕티브 바이어스로 활용하여 일반화 능력과 학습 효율성을 향상시키는 것.
• 고차원 입력 공간을 가진 실세계 데이터, 예를 들어 분자와 3D 점군에 이 프레임워크를 적용할 수 있도록 하는 것.

제안 방법

• 잠재 코드 $z$가 군 불변 성분과 군 작용 성분으로 분해되는 인코더-디코더 자동에코더 아키텍처를 사용한다.
• 군 작용 함수 $\psi$는 재구성된 데이터 $\delta(\eta(x), g)$와 입력 $x$를 정렬하기 위해 적절한 군 변환 $g \in G$를 예측한다. 이는 대칭성에도 불구하고 재구성을 가능하게 한다.
• 인코더는 군 $G$에 대해 등변하도록 제약을 두어 $\eta(g \cdot x) = \rho_G(g) \cdot \eta(x)$를 보장한다. 여기서 $\rho_G$는 군 $G$의 표현이다.
• 디코더는 예측된 군 작용 $g$를 기준으로 정준 재구성 $\hat{x}$에 적용하여 입력을 재구성한다. 수식으로는 $\delta(z, g) = \rho_X(g) \cdot \hat{x}$로 표현된다.
• 이 방법은 $SO(3)$, $\mathbb{R}^3$, $S_N$ 등 임의의 군 $G$에 대해 일반적으로 적용 가능하며, 각 군에 대해 명시적인 구성 방법을 제공한다.
• 이 프레임워크는 표준 자동에코더뿐 아니라 변분 자동에코더와도 호환되어 불변 표현의 생성 모델링을 가능하게 한다.

실험 결과

연구 질문

• RQ1 데이터 증강이나 대칭 인식 지도 학습에 의존하지 않고도 비지도 방식으로 군 불변 및 등변 표현을 학습할 수 있는가?
• RQ2 불변 및 등변 성분의 정확한 분리가 보장되기 위해 인코더와 군 작용 함수에 필요한 수학적 조건은 무엇인가?
• RQ3 연속 및 이산 군을 포함한 임의의 군 $G$에 대해 유효한 일반 목적의 프레임워크를 어떻게 구성할 수 있는가?
• RQ4 이 프레임워크는 형태 분류나 분자 구형 재구성과 같은 표현 학습 과제에서 일반화 능력과 후행 성능 향상에 기여할 수 있는가?
• RQ5 표준 자동에코더와 비교했을 때, 분리된 표현은 잠재 공간의 구조성과 내성에 대해 얼마나 더 강건한가?

주요 결과

• QM9 데이터셋에서 분자 구형에 대해 재구성 RMSE가 $0.15 \pm 0.07~\text{\AA}$를 기록했으며, 5000개의 미사용 테스트 예제에서 원자 유형 정확도가 완벽하게 유지되었다.
• ShapeNet 데이터셋에서 불변 임bedding을 기반으로 학습한 KNN 분류기는 81%의 정확도를 기록했으며, 비불변 임bedding을 사용한 경우는 63%에 그쳤다. 이는 훨씬 뛰어난 일반화 능력을 보여준다.
• TSNE 시각화 결과, 불변 자동에코더는 잘 정리되고 클래스 간 분리된 잠재 공간을 생성한 반면, 비불변 모델은 방향성 변동으로 인해 혼란스러운 군집을 보였다.
• 테트리스 모양에 대해 회전과 이동에 대해 프레임워크는 성공적으로 분리된 표현을 학습했으며, 잠재 공간의 클러스터링이 형태 클래스와 일치했다.
• 이 방법은 3D 점군, 분자 구형, 2D 이미지와 같은 다양한 아키텍처와 데이터 유형에 대해 일반화되었으며, 일관된 성능 향상을 보였다.
• 이 프레임워크는 변분 자동에코더와 완전히 호환되며, 불변 표현의 확률적 모델링을 가능하게 하여 생성 응용 분야에 잠재력을 지닌다.