[논문 리뷰] On the Universality of Rotation Equivariant Point Cloud Networks

Nadav Dym, Haggai Maron|arXiv (Cornell University)|2020. 10. 06.

3D Shape Modeling and Analysis참고 문헌 30인용 수 22

한 줄 요약

이 논문은 SO(3) 군에 대한 등변 다항식 특성화를 기반으로 충분한 조건을 도출하여, 회전 등변 점군 네트워크의 보편적 근사성에 대한 첫 이론적 프레임워크를 수립한다. Tensor Field Networks(TFN)의 보편성은 증명되고, 두 가지 새로운 보편적 아키텍처가 제안되며, 이는 컴act 집합 위에서 연속적인 등변 함수를 어떤 모델도 근사할 수 있음을 보여준다.

ABSTRACT

Learning functions on point clouds has applications in many fields, including computer vision, computer graphics, physics, and chemistry. Recently, there has been a growing interest in neural architectures that are invariant or equivariant to all three shape-preserving transformations of point clouds: translation, rotation, and permutation. In this paper, we present a first study of the approximation power of these architectures. We first derive two sufficient conditions for an equivariant architecture to have the universal approximation property, based on a novel characterization of the space of equivariant polynomials. We then use these conditions to show that two recently suggested models are universal, and for devising two other novel universal architectures.

연구 동기 및 목표

• 점군 네트워크의 회전, 이동, 순열에 대한 등변성에 대한 보편적 근사 능력에 대한 이론적 기초를 구축하기 위해.
• SO(3) 군 하에서의 등변 다항식에 대한 새로운 특성화를 기반으로 보편성에 대한 충분한 조건을 유도하기 위해.
• TFN(Thomas 등, 2018; Fuchs 등, 2020)과 같은 주목할 만한 아키텍처가 보편적임을 증명하기 위해.
• 낮은 차원의 필터를 사용하는 하나와, 기저 표현이 아닌 텐서 곱 표현 방식을 기반으로 하는 다른 하나의 새로운 보편적 아키텍처를 설계하고 검증하기 위해.

제안 방법

• 다중선형 함수형과 행렬식/내적 불변량을 사용하여 SO(3)-등변 다항식의 공간에 대한 새로운 특성화를 유도한다.
• 행렬식과 내적 항에서 유도된 불변 함수형의 생성 집합을 바탕으로 보편성에 대한 두 가지 충분 조건을 수립한다.
• 텐서의 거듭제곱 위의 선형 함수형과 벡터 공간 위의 다중선형 함수형 사이의 일대일 대응을 이용하여 불변성 분석을 수행한다.
• 특성화를 적용하여 TFN 아키텍처가 계층 조합을 통해 보편성 조건을 만족함을 증명한다.
• 필수적인 함수형 생성 집합을 유지하면서도 낮은 차원의 필터만을 사용하는 수정된 TFN 변형을 구성하여 보편성을 유지함을 보여준다.
• 기저 표현이 아닌 전체 텐서 곱 표현 방식을 기반으로 하는 최소한의 아키텍처를 제안하고, 동일한 이론적 프레임워크를 통해 그 보편성을 증명한다.

실험 결과

연구 질문

• RQ1 회전 등변 점군 네트워크는 임의의 연속적인 등변 함수를 보편적으로 근사할 수 있는가?
• RQ2 이동, 회전, 순열의 병합 대칭성을 고려할 때, 아키텍처에 어떤 수학적 조건이 보편성을 보장하는가?
• RQ3 기존의 아키텍처인 TFN 및 그 변형들은 보편적인가? 만약 그렇다면, 그 이유는 무엇인가?
• RQ4 낮은 차원의 필터나 전체 텐서 곱 표현과 같은 간단하거나 다른 표현 체계를 사용하여 보편적 아키텍처를 구성할 수 있는가?
• RQ5 SO(3)-불변 다항식의 특성화가 어떻게 보편적 모델의 구축을 가능하게 하는가?

주요 결과

• 논문은 TFN 계층의 조합을 통해 점군 위의 임의의 연속적인 등변 함수를 균일하게 근사할 수 있음을 증명하며, 이는 TFN의 보편성을 확립한다.
• 오직 낮은 차원의 필터만을 사용하는 수정된 TFN 아키텍처가 보편적임이 입증되어, 높은 차원의 표현이 보편성에 필수적인 것은 아님을 보여준다.
• 기저 표현이 아닌 전체 텐서 곱 표현 방식을 기반으로 하는 최소한의 아키텍처가 구성되었고, 그 보편성이 동일한 이론적 프레임워크를 통해 증명되었다.
• 텐서 거듭제곱 위의 SO(3)-불변 선형 함수형의 공간은 행렬식과 내적에서 유도된 함수형에 의해 생성되며, 이는 보편성 증명의 기초가 된다.
• 이 프레임워크는 어떤 회전 등변 아키텍처의 보편성 여부를 확인하기 위한 일반적인 방법을 제공하며, 해당 아키텍처의 함수형 공간이 필요한 불변 다항식을 생성하는지 여부를 검증함으로써 가능하다.
• 이전의 순열 불변 및 SO(3)-등변 네트워크 연구를 확장하여, 이동, 회전, 순열 대칭성을 하나의 이론적 프레임워크 안에서 통합적으로 다루었다.