[논문 리뷰] Revisiting the Continuity of Rotation Representations in Neural Networks

Sitao Xiang, Hao Li|arXiv (Cornell University)|2020. 06. 11.

Advanced Numerical Analysis Techniques참고 문헌 9인용 수 8

한 줄 요약

이 논문은 SO(3)의 위상적 제약으로 인해 회전 행렬을 쿼터니언 또는 유클리드 각도로 변환하는 신경망은 최대 180°의 오차를 피할 수 없음을 증명하며, R⁵ 또는 R⁶로의 표준 임bedding이 입력 대칭성 하에서 실패함을 보여준다. 저자들은 영역별 학습을 수행하는 다수의 네트워크를 조합하는 자기 선택형 앙상블 방법을 제안하여, 최대 오차를 거의 0에 가깝게(4.62°) 낮추고, 위상적 함정을 피함으로써 기존 접근 방식을 능가한다.

ABSTRACT

In this paper, we provide some careful analysis of certain pathological behavior of Euler angles and unit quaternions encountered in previous works related to rotation representation in neural networks. In particular, we show that for certain problems, these two representations will provably produce completely wrong results for some inputs, and that this behavior is inherent in the topological property of the problem itself and is not caused by unsuitable network architectures or training procedures. We further show that previously proposed embeddings of $\mathrm{SO}(3)$ into higher dimensional Euclidean spaces aimed at fixing this behavior are not universally effective, due to possible symmetry in the input causing changes to the topology of the input space. We propose an ensemble trick as an alternative solution.

연구 동기 및 목표

• 3D 회전을 유클리드 각도 또는 쿼터니언을 사용해 정확히 표현하지 못하는 이유를 이론적으로 분석하는 것.
• SO(3)에서 R⁴ 또는 R³로의 연속적 사상에서 최대 180°까지의 높은 오차가 위상적으로 피할 수 없음을 증명하는 것.
• 입력 대칭성으로 인해 입력 공간의 위상이 변형될 경우, R⁵ 또는 R⁶로의 기존 임베딩이 효과가 없음을 보여주는 것.
• 위상적 장애물을 피하는 강건하고 일반화 가능한 해결책을 개발하는 것.
• 앙상블 신경망을 통한 실험을 통해 이론적 주장의 타당성을 검증하는 것.

제안 방법

• SO(3)에서 R⁴로의 임의의 연속 함수는 반드시 진짜로 회전과 180° 다를 만한 출력을 갖는 점이 존재함을 증명하는 것.
• 대수적 위상수학을 사용하여, 입력 대칭성으로 인해 입력 공간이 단순연결되지 않게 되면 R⁵ 또는 R⁶로의 임베딩이 실패함을 보여주는 것.
• 각 네트워크가 SO(3)의 서로 다른 영역을 학습하는 자기 선택형 앙상블 방법을 제안하는 것.
• 각 네트워크의 전용 영역 외부의 출력을 처벌하는 수정된 손실 함수를 설계하여, 국소적 행동이 정확해지도록 유도하는 것.
• 두 단계 전략을 사용한 앙상블 훈련: 먼저 영역별 손실 함수로 훈련한 후, 성능을 향상시키기 위해 표준 손실 함수로 추가 훈련하는 것.
• SO(4)를 커버링 공간으로 사용하여, 네 개의 네트워크를 구성함으로써 SO(3) 전체를 위상적 갈등 없이 커버하는 방법을 제안하는 것.

실험 결과

연구 질문

• RQ1 SO(3)에서 쿼터니언으로의 연속적 신경망 매핑이 180°를 초과하는 오차를 피할 수 있는가?
• RQ2 왜 SO(3)의 표준 임베딩이 R⁵ 또는 R⁶로는 입력 대칭성 하에서 실패하는가?
• RQ3 네트워크 앙상블이 회전 표현에서 위상적 장애물을 극복할 수 있는가?
• RQ4 최대 오차가 거의 0에 가까운 신경망 앙상블을 구성하는 것이 가능한가?
• RQ5 입력 대칭성은 입력 공간의 위상과 회전 표현 성능에 어떤 영향을 미치는가?

주요 결과

• 위상적 제약으로 인해 SO(3)에서 R⁴로의 연속적 신경망은 일부 입력에 대해 최소 180°의 오차를 발생시킴을 증명함.
• 입력 대칭성으로 인해 입력 공간이 단순연결되지 않게 되면, R⁵ 또는 R⁶로의 임베딩이 항상 효과적이지 않으며, 위상적 장애물이 재등장함을 보여줌.
• 자기 선택형 앙상블 방법은 네 개의 네트워크로 최대 오차를 4.62°로 감소시켜 기존 앙상블을 능가함.
• 제안된 방법으로 훈련한 다섯 개의 네트워크 앙상블은 최대 오차가 오직 8.71°로 나타나 강건성을 입증함.
• 정리 14의 이론적 구성에 기반한 수작업으로 설계된 앙상블은 최대 오차 4.62°를 기록하여 이론적 프레임워크의 타당성을 확인함.
• 영역별 손실 함수로 훈련하는 것이 위상적 일반화 능력을 크게 향상시키며, 특히 두 단계 훈련 전략과 조합할 경우 효과가 뚜렷함.