[논문 리뷰] Multifaceted Feature Visualization: Uncovering the Different Types of Features Learned By Each Neuron in Deep Neural Networks

Anh Mai Nguyen, Jason Yosinski외 1명|arXiv (Cornell University)|2016. 02. 11.

Cell Image Analysis Techniques참고 문헌 22인용 수 168

한 줄 요약

본 논문은 Multifaceted Feature Visualization (MFV)를 소개한다. 이는 각 뉴런의 다수의 면을 밝히는 활성화 최대화 기법으로, 면별 평균 이미지에서 최적화를 초기화함으로써 이미지 품질을 개선하고 다양한 뉴런 표현을 드러낸다.

ABSTRACT

We can better understand deep neural networks by identifying which features each of their neurons have learned to detect. To do so, researchers have created Deep Visualization techniques including activation maximization, which synthetically generates inputs (e.g. images) that maximally activate each neuron. A limitation of current techniques is that they assume each neuron detects only one type of feature, but we know that neurons can be multifaceted, in that they fire in response to many different types of features: for example, a grocery store class neuron must activate either for rows of produce or for a storefront. Previous activation maximization techniques constructed images without regard for the multiple different facets of a neuron, creating inappropriate mixes of colors, parts of objects, scales, orientations, etc. Here, we introduce an algorithm that explicitly uncovers the multiple facets of each neuron by producing a synthetic visualization of each of the types of images that activate a neuron. We also introduce regularization methods that produce state-of-the-art results in terms of the interpretability of images obtained by activation maximization. By separately synthesizing each type of image a neuron fires in response to, the visualizations have more appropriate colors and coherent global structure. Multifaceted feature visualization thus provides a clearer and more comprehensive description of the role of each neuron.

연구 동기 및 목표

• 뉴런이 다면적이며 다양한 이미지 유형에 반응할 수 있음을 이해할 필요성을 제시한다.
• 뉴런의 역할을 더 잘 설명하기 위해 다면을 시각화하는 방법을 제안한다.
• 활성화 최대화 시각화의 품질과 해석 가능성을 개선한다.
• 상위 수준의 뉴런이 하위 수준의 뉴런보다 더 큰 면 다양성을 보임을 보여준다.
• 정규화와 면별 초기화가 시각화에서 일관된 전역 구성을 낳는다는 것을 보여준다.]
• method':['뉴런의 여러 면을 시각화하기 위해 Multifaceted Feature Visualization (MFV)를 도입한다.','학습된 특성 공간에서 클래스의 학습 세트 이미지를 클러스터링하여 면을 식별하고, PCA, t-SNE, k-means를 사용한다.','각 면의 활성화 최대화를 해당 면의 클러스터에서 얻은 평균 이미지로 초기화한다.','시각적으로 일관되고 중심화된 객체를 생성하기 위해 중심 편향 정규화를 적용한다.','MFV 시각화를 기존의 활성화 최대화 방법과 비교하고 색 현실성 및 전역 구조를 강조한다.]
• research_questions':['DNN의 뉴런은 다수의 서로 다른 반응 면을 가지는가, 그리고 이러한 면은 층 간에 어떻게 다르게 나타나는가?','면별 초기화와 정규화가 활성화 최대화된 이미지의 해석 가능성과 사실감을 개선할 수 있는가?','상위 층의 뉴런은 면 다양성과 객체 구성 면에서 하위 층의 뉴런과 어떻게 다른가?']
• key_findings':['뉴런은 층에 걸쳐 다면적 특성 검출기로, 고차 계층의 뉴런이 더 다양한 면을 보인다.','MFV는 각 면을 각각 시각화함으로써 더 자연스러운 색상과 일관된 전역 구조를 가진 활성화 최대화 이미지를 생성한다.','센터 편향 정규화가 반복되는 파편을 줄이고 객체를 중앙에 배치하여 이미지 품질을 향상시킨다.','은닉 유닛의 시각화는 conv3부터 면 다양성이 증가하는 것을 보여주며, 완전 연결 계층은 종종 고수준 개념을 결합한다.','클래스의 면은 서로 다른 실제 세계의 하위 유형이나 관점에 대응할 수 있어, 풍부한 내부 표현을 드러낸다.','MFV는 합성 이미지의 사실성과 해석 가능성 측면에서 이전의 활성화 최대화 방법을 능가한다.']
• table_headers:[]
• table_rows:[]

제안 방법

• 뉴런의 여러 면을 시각화하기 위해 Multifaceted Feature Visualization (MFV)를 도입한다.
• 학습된 특성 공간에서 클래스의 학습 세트 이미지를 클러스터링하여 면을 식별하고, PCA, t-SNE, 및 k-means를 사용한다.
• 각 면의 활성화 최대화를 해당 면의 클러스터에서 얻은 평균 이미지로 초기화한다.
• 시각적으로 일관되고 중앙화된 객체를 생성하기 위해 중심 편향 정규화를 적용한다.
• MFV 시각화를 기존의 활성화 최대화 방법과 비교하고 색 현실성 및 전역 구조를 강조한다.

실험 결과

연구 질문

• RQ1 DNN의 뉴런은 다수의 서로 다른 반응 면을 가지는가, 그리고 이러한 면은 층 간에 어떻게 다르게 나타나는가?
• RQ2 면별 초기화와 정규화가 활성화 최대화된 이미지의 해석 가능성과 사실감을 개선할 수 있는가?
• RQ3 상위 층의 뉴런은 면 다양성과 객체 구성 면에서 하위 층의 뉴런과 어떻게 다른가?

주요 결과

• 뉴런은 층에 걸쳐 다면적 특성 검출기로, 고차 계층의 뉴런이 더 다양한 면을 보인다.
• MFV는 각 면을 각각 시각화함으로써 더 자연스러운 색상과 일관된 전역 구조를 가진 활성화 최대화 이미지를 생성한다.
• 센터 편향 정규화가 반복되는 파편을 줄이고 객체를 중앙에 배치하여 이미지 품질을 향상시킨다.
• 은닉 유닛의 시각화는 conv3부터 면 다양성이 증가하는 것을 보여주며, 완전 연결 계층은 종종 고수준 개념을 결합한다.
• 클래스의 면은 서로 다른 실제 세계의 하위 유형이나 관점에 대응할 수 있어, 풍부한 내부 표현을 드러낸다.
• MFV는 합성 이미지의 사실성과 해석 가능성 측면에서 이전의 활성화 최대화 방법을 능가한다.