[논문 리뷰] Tagger: Deep Unsupervised Perceptual Grouping

Klaus Greff, Antti Rasmus외 4명|arXiv (Cornell University)|2016. 06. 21.

Advanced Neural Network Applications참고 문헌 41인용 수 4

한 줄 요약

Tagger는 사전 가정 없이 신경망이 입력을 일관된 물체 유사 그룹으로 분할할 수 있도록 하는 비지도 딥러닝 프레임워크를 도입한다. 반복적이고 미분 가능한 인지적 군집화를 통해, 완전히 연결된 레이어를 사용함에도 불구하고, 혼잡한 다중숫자 분류 및 준지도 학습에서 최신 기술을 초월하는 성능을 달성한다. 이는 순환 구조를 통해 그룹 할당과 표현에 대한 동시 추론을 압축함으로써 달성된다.

ABSTRACT

We present a framework for efficient perceptual inference that explicitly reasons about the segmentation of its inputs and features. Rather than being trained for any specific segmentation, our framework learns the grouping process in an unsupervised manner or alongside any supervised task. By enriching the representations of a neural network, we enable it to group the representations of different objects in an iterative manner. By allowing the system to amortize the iterative inference of the groupings, we achieve very fast convergence. In contrast to many other recently proposed methods for addressing multi-object scenes, our system does not assume the inputs to be images and can therefore directly handle other modalities. For multi-digit classification of very cluttered images that require texture segmentation, our method offers improved classification performance over convolutional networks despite being fully connected. Furthermore, we observe that our system greatly improves on the semi-supervised result of a baseline Ladder network on our dataset, indicating that segmentation can also improve sample efficiency.

연구 동기 및 목표

• 사전에 물체의 구조나 모odal에 대한 가정 없이도, 구조화된 다중객체 입력에 대해 효율적인 추론을 가능하게 하는 비지도 방식의 딥러닝 프레임워크를 개발하는 것.
• 신경망이 물체의 구조나 모달성에 대한 사전 가정 없이도 반복적으로 그룹 할당과 내부 표현을 개선할 수 있도록 하는 것.
• 구조화된 군집화를 인덕티브 바이어스로 활용하여 지도 및 준지도 학습의 샘플 효율성을 향상시키는 것.
• 시각, 청각, 촉각 데이터 등 다양한 모달리티에 적용 가능한 도메인에 관계없는 시스템을 만드는 것.
• 명시적인 군집화 메커니즘이 복잡하고 혼잡한 입력에서 표준 컨볼루션 네트워크를 초월할 수 있음을 입증하는 것.

제안 방법

• 프레임워크는 각 입력 요소 $x_j$에 대해 $K$개의 그룹에 대한 잠재 이진 그룹 할당 $g_{k,j}$에 대해 반복적이고 압축된 추론을 수행하는 순환 신경망을 사용한다.
• 스토캐스틱 기울기 추정을 통해 이산적 그룹 할당을 통한 역전파를 허용하는 미분 가능한 군집화 메커니즘을 적용한다.
• 의미 있는 군집화와 표현을 학습하는 데 집중하기 위해, 노이즈 제거 오토인코더 목표함수를 통해 엔드 투 엔드로 훈련한다.
• 공유된 대칭 서브넷을 각 그룹에 대해 사용하여 표현을 반복적으로 업데이트함으로써 파라미터 공유와 계산 효율성을 달성한다.
• 추론과 특징 학습을 위한 백본으로 래더 네트워크 아키텍처를 사용하며, 그룹별로 별도의 처리 경로를 갖는다.
• 입력 구성에 일반화할 수 있는 단일 공유 추론 네트워크를 학습시켜 반복 계산 시간을 줄이는 방식으로 압축을 달성한다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 물체의 구조에 대한 사전 가정 없이도 비지도 방식으로 인지적 군집화를 학습할 수 있는가?
• RQ2 그룹 할당과 표현에 대한 반복적이고 압축된 추론이 복잡하고 혼잡한 다중객체 인식 작업에서 성능을 향상시키는가?
• RQ3 군집화 메커니즘이 표준 기준 대비 준지도 학습에서 샘플 효율성을 향상시키는가?
• RQ4 이 프레임워크는 이미지 이외의 모달리티, 예를 들어 청각 또는 촉각 입력에서도 효과적인가?
• RQ5 명시적인 군집화 메커니즘을 갖춘 완전히 연결된 네트워크가 컨볼루션 네트워크를 능가할 수 있는가?

주요 결과

• Tagger는 강력한 ConvNet 기준선에 비해 혼잡한 다중숫자 이미지에서 뛰어난 분류 성능을 달성했으며, 이는 완전히 연결된 아키텍처를 사용했음에도 불구하고 성립한다.
• 모델은 라벨이 1,000개뿐인 경우에도 기존의 래더 네트워크 기준선보다 크게 뛰어난 성능을 보였으며, 준지도 학습에서 정확도를 크게 향상시켰다.
• 모델은 다섯 번 이내로 수렴하여, 엔드 투 엔드 훈련을 통해 매우 효율적인 압축된 추론을 보여주었다.
• 학습된 군집화 결과는 직관적이었으며, 노이즈 제거와 분류 모두에 기여하여 물체 유사 구조의 효과적인 탐색을 보여주었다.
• 이 프레임워크는 다양한 모달리티로 일반화되었으며, 컨볼루션 인덕티브 바이어스가 필요로 하지 않았고, 공간적 인덕티브 바이어스 없이도 효과적이었다.
• 결과는 인지적 군집화가 샘플 효율성과 모델 일반화를 향상시키는 강력한 인덕티브 바이어스임을 시사한다.