[논문 리뷰] Learning and Interpreting Multi-Multi-Instance Learning Networks

Alessandro Tibo, Manfred Jaeger외 1명|VBN Forskningsportal (Aalborg Universitet)|2018. 10. 26.

Image Retrieval and Classification Techniques참고 문헌 79인용 수 8

한 줄 요약

이 논문은 데이터를 중첩된 인스턴스의 백(예: 문서를 문장의 백으로, 문장을 단어의 백으로)으로 모델링하는 다중-다중-인스턴스 학습(MMIL) 프레임워크를 소개한다. 또한 다중 수준에서 입력을 집계하는 새로운 백-레이어를 갖춘 신경망 아키텍처를 제안한다. 이 방법은 텍스트, 인용 네트워크, 사회적 네트워크 데이터에서 경쟁력 있는 분류 정확도를 달성하면서도, 인스턴스 및 서브-백 클러스터링을 위한 학습된 기호 규칙을 통해 예측의 해석 가능성을 제공한다.

ABSTRACT

We introduce an extension of the multi-instance learning problem where examples are organized as nested bags of instances (e.g., a document could be represented as a bag of sentences, which in turn are bags of words). This framework can be useful in various scenarios, such as text and image classification, but also supervised learning over graphs. As a further advantage, multi-multi instance learning enables a particular way of interpreting predictions and the decision function. Our approach is based on a special neural network layer, called bag-layer, whose units aggregate bags of inputs of arbitrary size. We prove theoretically that the associated class of functions contains all Boolean functions over sets of sets of instances and we provide empirical evidence that functions of this kind can be actually learned on semi-synthetic datasets. We finally present experiments on text classification, on citation graphs, and social graph data, which show that our model obtains competitive results with respect to accuracy when compared to other approaches such as convolutional networks on graphs, while at the same time it supports a general approach to interpret the learnt model, as well as explain individual predictions.

연구 동기 및 목표

• 기존의 다중-인스턴스 학습을 문서의 백-백과 같은 중첩된 계층적 데이터 구조를 다룰 수 있도록 확장한다.
• 잠재적인 레이블을 복원함으로써 인스턴스 및 서브-백에 대한 규칙 기반 설명을 가능하게 함으로써 기계 학습의 해석 가능성을 보장한다.
• 집합 구조 데이터에 대해 풀링 및 컨볼루션을 일반화하는 차별 가능한 신경망 레이어(백-레이어)를 개발한다.
• 실제 관계형 데이터, 특히 텍스트 및 그래프 구조 데이터 세트에서 MMIL의 실용적 타당성을 입증한다.
• 모델이 집합의 집합에 대한 복잡한 부울 함수를 학습할 수 있음을 보여주며, 표현력 있는 결정 함수를 지원한다.

제안 방법

• MMIL 프레임워크는 상위 수준의 백에 서브-백이 포함되고, 각 서브-백에 인스턴스가 포함되는 방식으로 데이터를 모델링하며, 레이블은 상위 수준에서만 관측된다.
• 새로운 백-레이어 레이어를 도입하여, 크기가 변하는 백에 대해 가중치 공유 및 집계를 수행하며, 이는 컨볼루션 및 풀링 연산을 일반화한다.
• 백-레이어 함수는 백 내 인스턴스의 순서에 대해 불변이며, 이는 구조적 강건성을 보장하고 엔드 투 엔드 학습을 가능하게 한다.
• 클러스터링을 사용하여 잠재적인 인스턴스 및 서브-백 레이블을 근사하며, 이를 바탕으로 설명을 위한 기호 규칙을 추출한다.
• 공유된 가중치를 통해 백 간 특징 표현을 학습하면서, 백프로파게이션을 사용해 엔드 투 엔드로 네트워크를 학습한다.
• 학습된 클러스터 할당과 상위 수준 레이블 간의 관계를 분석하여 기호 규칙을 추출한다.

Figure 1: A positive (left) and a negative (right) top-bag for Example 2.1 . Solid green lines represent positive (sub-) bags while dashed red lines represent negative (sub-) bags.

실험 결과

연구 질문

• RQ1 레이블이 상위 수준에서만 제공되는 계층적 백-백 데이터에서 딥 러닝 모델이 효과적으로 학습할 수 있는가?
• RQ2 모델의 내부 표현을 활용하여 인스턴스 및 서브-백의 잠재적 레이블을 재구성하여 해석 가능성을 확보할 수 있는가?
• RQ3 제안된 백-레이어 레이어가 집합 구조 데이터에 대해 컨볼루션 및 풀링 레이어의 인덕티브 바이어스를 일반화하는가?
• RQ4 기존의 접근 방식과 비교해도 텍스트 및 그래프 분류 작업에서 경쟁력 있는 정확도를 달성할 수 있는가?
• RQ5 클러스터 할당에서 유도된 기호 규칙을 통해 학습된 모델을 해석할 수 있는가?

주요 결과

• 모델은 텍스트 분류, 인용 그래프, 사회적 네트워크 데이터 세트에서 최신의 그래프 컨볼루션 네트워크와 비교해도 경쟁력 있는 분류 정확도를 달성한다.
• 이론적 분석을 통해 백-레이어 함수가 집합의 집합에 대한 모든 부울 함수를 표현할 수 있음을 보여주며, 높은 표현 능력을 갖춘다.
• 반-합성 데이터에서의 실증 결과는 모델이 중첩된 백 구조에 대한 복잡한 함수를 학습할 수 있음을 확인한다.
• 모델은 인스턴스 및 서브-백에 대한 잠재 클러스터 할당을 복원함으로써 설명 가능성을 제공하며, 이를 바탕으로 기호 규칙을 생성한다.
• 규칙 추출 결과, 서브-백 클러스터 v₅는 항공기 클래스와 강하게 연관되어 있으며, v₃₁는 기타 및 키보드와, v₄는 책상과 관련이 있음을 확인하여 직관적인 기대와 일치한다.
• 점군 실험에서의 오분류 원인은 모델이 서브-백을 클러스터 v₄(책상)에 할당한 데 기인한 것으로 분석되었으며, 이는 오류에 대한 타당한 설명을 제공한다.

Figure 2: A bag-layer receiving a bag of cardinality $n=3$ . In this example $k=4$ and $m=5$ .