[논문 리뷰] KANDINSKYPatterns -- An experimental exploration environment for Pattern Analysis and Machine Intelligence

Andreas Holzinger, Anna Saranti외 1명|arXiv (Cornell University)|2021. 02. 28.

Explainable Artificial Intelligence (XAI)참고 문헌 72인용 수 4

한 줄 요약

이 논문은 제어 가능하고 인간이 이해할 수 있는 시각적 개념 학습을 가능하게 하는 새로운 실험 환경인 KANDINSKYPatterns (KP)를 소개한다. 캔딘스키의 구성적 인식 이론과 허벨 & 와이젤의 시각 기반 신경 기초에 영감을 받아, 계층적이고 구성적인 개념을 가진 계산적으로 제어 가능한 기반 진술이 검증된 패턴을 제공함으로써, 인공지능 시스템의 일반화, 추론, 설명 가능성에 대한 벤치마킹을 가능하게 한다.

ABSTRACT

Machine intelligence is very successful at standard recognition tasks when having high-quality training data. There is still a significant gap between machine-level pattern recognition and human-level concept learning. Humans can learn under uncertainty from only a few examples and generalize these concepts to solve new problems. The growing interest in explainable machine intelligence, requires experimental environments and diagnostic tests to analyze weaknesses in existing approaches to drive progress in the field. In this paper, we discuss existing diagnostic tests and test data sets such as CLEVR, CLEVERER, CLOSURE, CURI, Bongard-LOGO, V-PROM, and present our own experimental environment: The KANDINSKYPatterns, named after the Russian artist Wassily Kandinksy, who made theoretical contributions to compositivity, i.e. that all perceptions consist of geometrically elementary individual components. This was experimentally proven by Hubel &Wiesel in the 1960s and became the basis for machine learning approaches such as the Neocognitron and the even later Deep Learning. While KANDINSKYPatterns have computationally controllable properties on the one hand, bringing ground truth, they are also easily distinguishable by human observers, i.e., controlled patterns can be described by both humans and algorithms, making them another important contribution to international research in machine intelligence.

연구 동기 및 목표

• 기계 수준의 패턴 인식과 인간 수준의 개념 학습 사이의 격차를 메우기 위해 불확실성 하에서 일반화와 추론을 평가할 수 있는 실험 기반 환경을 구축하기 위해.
• 인간과 알고리즘 모두의 시각적 개념 이해를 지원하는 진단 환경을 제공하여 AI와 인간 성능 간 직접 비교를 가능하게 하기 위해.
• 실제 인지 과정을 반영하는 기반 진술(annotation)과 계층적이고 구성적인 개념을 갖춘 데이터셋을 제공함으로써 설명 가능한 AI 연구를 촉진하기 위해.
• 명확한 언어적 및 구조적 정의를 가진 확장 가능하고 체계적인 벤치마크를 통해 새로운 신경망 아키텍처와 하이브리드 기호-기반 AI 방법의 개발을 지원하기 위해.
• 정교하게 선별하고 지속적으로 발전하는 데이터셋을 사용하여 소수의 예제 학습, 구성적 일반화, 반대 조건 추론을 비롯한 시각 모델의 평가를 체계적으로 가능하게 하기 위해.

제안 방법

• 칸딘스키의 구성적 인식 이론과 허벨 & 와이젤이 뇌에서 계층적 시각 처리를 발견한 데 영감을 얻어 기하학적 원소(형태, 색상, 위치) 기반의 시각 데이터셋을 설계하기 위해.
• 기반 진술이 확보된 제어 가능하고 계산적으로 검증 가능한 패턴 세트를 생성하여 알고리즘적 해석 가능성과 인간 해석 가능성을 모두 확보하기 위해.
• 기본 개념(예: 형태, 색상, 개수)과 고차원 관계(예: 산술, 공간 관계)를 포함하는 계층적이고 구성적인 개념 공간을 정의하기 위해.
• 개념과 그에 따른 모호함을 표현할 수 있는 문법 또는 도메인 특화 언어를 구현하여 확률적이고 구성적인 추론을 지원하기 위해.
• 학습 및 테스트 분포 간의 일반화, 구성성, 내성적 안정성 등을 체계적으로 평가할 수 있도록 테스트 분할을 생성하기 위해.
• 의료 및 인지 이론 벤치마크와의 일치를 유지하면서도 개발자와 연구자들이 제약 없이 데이터 생성을 수행할 수 있도록 하기 위해.

실험 결과

연구 질문

• RQ1 최신 신경망은 제어 가능하고 이해할 수 있는 환경에서 계층적이고 구성적인 시각적 개념에 얼마나 잘 일반화할 수 있는가?
• RQ2 인간의 소수 예제 개념 학습을 모방하여 최소한의 감독 하에 AI 시스템이 추상적 시각적 개념을 얼마나 잘 학습하고 추론할 수 있는가?
• RQ3 동일한 시각적 패턴에서 인간과 AI의 성능을 비교했을 때, 개념 인식, 기술, 분리 분석에서의 성능는 어떻게 다른가?
• RQ4 설명 가능한 AI(xAI) 방법은 구성적 시각 작업에서 모델 추론의 실패 원인을 효과적으로 진단할 수 있는가?
• RQ5 데이터셋은 어떻게 확장되어야 비판적 추론과 인과적 이해를 갖춘 시각 모델에 대한 지원이 가능해지는가?

주요 결과

• KANDINSKYPatterns는 계산적 제어성, 기반 진술, 인간 해석 가능성의 유일무이한 조합을 제공하여 AI와 인간의 개념 학습을 직접적으로 비교할 수 있는 벤치마킹을 가능하게 한다.
• 이 데이터셋은 계층적이고 구성적인 개념 학습을 지원하여 단순 분류를 넘어서 산술, 공간 관계, 관계 추론을 포함한 다양한 작업을 가능하게 한다.
• CLEVR나 Bongard-LOGO와 같은 기존 벤치마크와 비교해 볼 때, KP는 구성적 구조에 더 중점을 두고 있으며, 더 풍부한 언어적 및 기호적 표현 방식을 제공한다.
• 의료 영상과 같은 실제 도메인으로의 확장을 위해 개념 문법을 임상 진단 언어와 일치시키도록 설계되어 있어 향후 확장이 가능하다.
• 이 프레임워크는 특히 소수 예제 및 분포 외부 설정에서의 일반화와 내성적 안정성 평가를 체계적으로 가능하게 한다.
• xAI 방법과 KP를 통합함으로써 모델 행동의 깊이 있는 진단 분석이 가능해졌으며, 추론 및 일반화에서의 성공 사례와 실패 원인을 모두 드러내었다.