[논문 리뷰] Building Deep, Equivariant Capsule Networks

Sairaam Venkatraman, S. Balasubramanian외 1명|arXiv (Cornell University)|2019. 08. 04.

Advanced Neural Network Applications참고 문헌 24인용 수 8

한 줄 요약

이 논문은 각 캡슐 유형에 대해 군-등변성 컨volution을 사용하여 변형 공간(SOV)을 학습하는 깊이 있는 등변성 캡슐 네트워크인 SOVNET을 제안한다. 이를 통해 매개변수 공유 예측과 등변성 라우팅이 degree-centrality 기반으로 효율적으로 가능해지며, 기존 캡슐 기반 모델 대비 변형에 대한 강건성과 성능이 향상되면서도 구성적 일반화 능력을 유지한다.

ABSTRACT

Capsule networks are constrained by the parameter-expensive nature of their layers, and the general lack of provable equivariance guarantees. We present a variation of capsule networks that aims to remedy this. We identify that learning all pair-wise part-whole relationships between capsules of successive layers is inefficient. Further, we also realise that the choice of prediction networks and the routing mechanism are both key to equivariance. Based on these, we propose an alternative framework for capsule networks that learns to projectively encode the manifold of pose-variations, termed the space-of-variation (SOV), for every capsule-type of each layer. This is done using a trainable, equivariant function defined over a grid of group-transformations. Thus, the prediction-phase of routing involves projection into the SOV of a deeper capsule using the corresponding function. As a specific instantiation of this idea, and also in order to reap the benefits of increased parameter-sharing, we use type-homogeneous group-equivariant convolutions of shallower capsules in this phase. We also introduce an equivariant routing mechanism based on degree-centrality. We show that this particular instance of our general model is equivariant, and hence preserves the compositional representation of an input under transformations. We conduct several experiments on standard object-classification datasets that showcase the increased transformation-robustness, as well as general performance, of our model to several capsule baselines.

연구 동기 및 목표

• 기존 캡슐 네트워크의 매개변수 비효율성과 증명 가능한 등변성 부족 문제를 해결하기 위해.
• 층 간 모든 쌍방향 캡슐 관계를 모델링하는 데 드는 계산 비용을 줄이기 위해.
• 각 캡슐 유형에 대해 자세의 변형 다각형(SOV)을 학습하여 캡슐 네트워크에서 등변성을 체계적으로 정의하기 위해.
• 변형 하에서 구성적 구조를 유지하는 라우팅 메커니즘을 개발하기 위해.
• 비기하학적 구성성에 대해 변형 효율성과 표현 능력 간의 균형을 맞추기 위해.

제안 방법

• 모델은 각 캡슐 유형에 대해 군 변환 하에서 가능한 자세 변형의 다양체를 나타내는 변형 공간(SOV)을 정의한다.
• 그룹 변환의 격자 위에서 학습 가능한 등변 함수를 사용하여 각 캡슐 유형의 SOV를 사영적으로 인코딩한다.
• 얕은 캡슐에서 깊은 캡슐으로의 예측은 유형 동일성 있는 군-등변성 컨볼루션을 통해 수행되며, 이는 매개변수 공유와 효율성을 보장한다.
• 라우팅 메커니즘은 degree-centrality에 기반하며, 가장 일관된 예측을 선택하여 깊은 캡슐을 형성한다.
• 전체 프레임워크는 SOV에 사용된 변환 군에 대해 증명 가능한 등변성을 갖도록 설계되어 있다.
• 이러한 구성 요소들을 통합하여 입력 변환 하에서도 구성적 구조를 유지하는 확장 가능한 깊이 있는 캡슐 네트워크 아키텍처를 설계한다.

실험 결과

연구 질문

• RQ1 쌍방향 캡슐 관계의 매개변수 비용을 줄임으로써 캡슐 네트워크를 깊이 있는 아키텍처로 확장할 수 있는가?
• RQ2 자세 변형의 학습된 구조적 표현을 통해 캡슐 네트워크에서 등변성을 체계적으로 보장할 수 있는가?
• RQ3 예측에 군-등변성 컨볼루션을 사용하면 캡슐 네트워크의 효율성과 강건성이 향상되는가?
• RQ4 degree-centrality 기반 라우팅 메커니즘이 공명 기반 라우팅보다 변형 하에서 구성적 구조를 더 효과적으로 유지하는가?
• RQ5 캡슐 네트워크에서 비기하학적 구성성에 대해 변형 효율성과 표현 능력 간의 상호 교환 관계는 어떠한가?

주요 결과

• SOVNET은 표준 객체 분류 데이터셋에서 여러 캡슐 네트워크 기반 모델 대비 약선형 변형에 대해 뛰어난 강건성을 보였다.
• 두 개의 벤치마크 데이터셋에서 표준 컨볼루션 네트워크 수준의 성능을 달성하여 강력한 일반화 능력을 보였다.
• 예측에 군-등변성 컨볼루션을 사용함으로써 상당한 매개변수 공유가 가능해졌고, 모든 쌍방향 캡슐 관계를 모델링하는 데 드는 계산 부담이 감소했다.
• degree-centrality 기반 라우팅 메커니즘은 일관된 부분-전체 관계를 효과적으로 식별하여 구성적 표현의 정밀도를 향상시켰다.
• 모델는 사용된 변환 군에 대해 증명 가능한 등변성을 갖추고 있어, 입력 변환 하에서도 검출된 구성적 구조가 유지됨을 보장한다.
• 비기하학적 구성성 표현 능력과 변형 효율성 사이에 상호 교환 관계가 관찰되어 아키텍처 설계 시 고려해야 할 디자인 트레이드오프가 있음을 시사한다.