[논문 리뷰] Explainable Abstract Trains Dataset

Manuel de Sousa Ribeiro, Ludwig Krippahl외 1명|arXiv (Cornell University)|2020. 12. 15.

Explainable Artificial Intelligence (XAI)참고 문헌 8인용 수 6

한 줄 요약

해석 가능한 추상 기차 훈련 데이터셋(XTRAINS)은 설명 가능한 AI 연구를 촉진하기 위해 제작된 대규모 50만 장의 스타일화된 기차 일러스트레이션으로 구성된 데이터셋입니다. 이 데이터셋은 세부적인 애너테이션, 기차 구성 요소의 경계 상자, 그리고 시각 모델의 설명 생성, 기여도, 시각적 중요도 방법의 벤치마킹을 가능하게 하는 구조화된 온톨로지(ontology)를 포함하고 있습니다.

ABSTRACT

The Explainable Abstract Trains Dataset is an image dataset containing simplified representations of trains. It aims to provide a platform for the application and research of algorithms for justification and explanation extraction. The dataset is accompanied by an ontology that conceptualizes and classifies the depicted trains based on their visual characteristics, allowing for a precise understanding of how each train was labeled. Each image in the dataset is annotated with multiple attributes describing the trains' features and with bounding boxes for the train elements.

연구 동기 및 목표

• 설명 가능한 AI(XAI) 및 모델 설명 연구를 촉진하기 위한 확장 가능하고 제어 가능하며 설명 가능한 이미지 데이터셋을 제공하기 위해.
• 정밀하고 구조화된 애너테이션을 통해 기여도 및 시각적 중요도 맵핑 기법의 개발 및 평가를 지원하기 위해.
• 데이터셋에 내장된 진정한 의미 지식을 바탕으로 온톨로지 학습 및 지식 추출 기법의 벤치마킹을 가능하게 하기 위해.
• 시각적 특징과 기차 표현의 구조적 특성을 조정할 수 있는 재현 가능한 이미지 생성 파이프라인을 제공하기 위해.
• 온톨로지를 통한 해석 가능한 기호적 설명과 모델 출력을 연결함으로써 신경망 설명의 평가를 촉진하기 위해.

제안 방법

• 이 데이터셋은 총 50만 장의 152×152 픽셀 크기의 추상 기차 이미지로 구성되며, 핵심 속성에 대해 截단 정규분포와 균일분포를 기반으로 한 확률적 과정을 통해 생성되었습니다.
• 기차 구성은 확률적 규칙에 의해 제어됩니다: 란수(截단 정규분포, μ=3, σ=1), 바퀴 크기(4개의 이산 크기), 커플러 높이(2개의 값), 간격(2개의 값)으로, 모두 균일 또는 조건부 분포를 따릅니다.
• 란의 특징—길이(34px 확률 p=1/3, 24px 확률 p=2/3), 벽 모양(6가지 옵션), 屋根 모양(5가지 옵션), 보이는 바퀴 수(3가지 값)—은 길이 및 상호 기능 간 의존성에 따라 조건부 분포를 따릅니다.
• 란 내부 콘텐츠는 형태(8가지 옵션), 크기(4가지 크기), 수량(3가지 값), 위치(형태, 크기, 수량 및 란 기하학적 구조에 따라 의존)로 정의되며, 조건부 확률로 정의됩니다.
• 노이즈는 최대 10%의 누락 픽셀과 15%의 두꺼운 벽 및 바닥(2px) 확률을 통해 도입되어 시각적 오류를 시뮬레이션합니다.
• 각 이미지는 생성 로직 또는 온톨로지 추론에서 유도된 39개의 이진 속성(e.g., TwoWheelsWagon)과 8개의 수치 속성(e.g., Angle)으로 애너테이션 처리됩니다.

실험 결과

연구 질문

• RQ1 이 데이터셋을 사용하여 설명 생성 방법이 이미지 분류 결정에 대해 인간이 이해할 수 있는 설명을 얼마나 효과적으로 생성할 수 있는가?
• RQ2 기여도 및 시각적 중요도 방법이 추상 기차 이미지에서 관련 시각적 특징(e.g., 바퀴, 커플러)을 얼마나 정확히 국소화할 수 있는가?
• RQ3 제공된 온톨로지가 지식 추출 및 온톨로지 학습 알고리즘 평가를 위한 신뢰할 수 있는 기준 지식으로 기능할 수 있는가?
• RQ4 구조적 변형(e.g., 바퀴 크기, 란 길이)이 제어된 합성 환경에서 설명 가능성 기법의 성능에 어떤 영향을 미치는가?
• RQ5 이 데이터셋이 신경망 예측을 구조화된 지식을 통한 기반 규칙 기반 설명과 연결하는 방법 개발을 지원할 수 있는가?

주요 결과

• XTRAINS 데이터셋은 152×152 픽셀 크기의 고해상도 추상 기차 이미지 총 50만 장으로 구성되어 있으며, 일관되고 제어 가능한 시각적 변형을 보입니다.
• 각 이미지는 생성 로직 또는 온톨로지 추론에서 유도된 39개의 이진 속성과 8개의 수치 속성으로 애너테이션 처리되어 모델 설명의 정밀한 평가가 가능합니다.
• 기차, 란, 콘텐츠, 屋根, 바퀴 등 6개 구성 요소에 대한 경계 상자가 제공되어 국소화 방법 평가를 지원합니다.
• 노이즈 및 시각적 오류(예: 누락 픽셀, 두꺼운 벽)가 포함되어 있어 실제 데이터의 비완전성을 시뮬레이션하고 복원력 테스트를 가능하게 합니다.
• 함께 제공되는 이미지 생성기는 란 길이, 바퀴 수, 콘텐츠 분포 등 매개변수 조정을 통해 맞춤형 데이터셋 생성을 가능하게 합니다.
• 온톨로지는 이미지 속성에 대한 기호적 추론을 가능하게 하며, 설명 가능성 및 지식 획득 기법의 벤치마킹을 위한 기준 지식 기반을 제공합니다.