[논문 리뷰] Interactive Visual Data Exploration with Subjective Feedback: An Information-Theoretic Approach

Kai Puolamäki, Emilia Oikarinen외 3명|arXiv (Cornell University)|2017. 10. 23.

Data Visualization and Analytics참고 문헌 48인용 수 5

한 줄 요약

이 논문은 사용자가 주관적으로 식별한 패턴을 반영하여 동적으로 데이터 투영 선택을 안내하는 상호작용적이고 정보이론 기반의 시각적 탐색적 데이터 분석(EDA) 프레임워크를 제안한다. 사용자가 식별한 패턴을 제약 조건으로 간주하여 최대 엔트로피 분포를 계산함으로써, 데이터와 배경 분포 간의 차이가 가장 큰 투영을 강조함으로써 기존 시각화에서 보이지 않는 새로운 정보 구조를 드러낸다. 이는 합성 데이터와 실제 데이터에서 효과적으로 입증되었으며, 프로토타입 시스템을 통해 검증되었다.

ABSTRACT

Visual exploration of high-dimensional real-valued datasets is a fundamental task in exploratory data analysis (EDA). Existing methods use predefined criteria to choose the representation of data. There is a lack of methods that (i) elicit from the user what she has learned from the data and (ii) show patterns that she does not know yet. We construct a theoretical model where identified patterns can be input as knowledge to the system. The knowledge syntax here is intuitive, such as "this set of points forms a cluster", and requires no knowledge of maths. This background knowledge is used to find a Maximum Entropy distribution of the data, after which the system provides the user data projections in which the data and the Maximum Entropy distribution differ the most, hence showing the user aspects of the data that are maximally informative given the user's current knowledge. We provide an open source EDA system with tailored interactive visualizations to demonstrate these concepts. We study the performance of the system and present use cases on both synthetic and real data. We find that the model and the prototype system allow the user to learn information efficiently from various data sources and the system works sufficiently fast in practice. We conclude that the information theoretic approach to exploratory data analysis where patterns observed by a user are formalized as constraints provides a principled, intuitive, and efficient basis for constructing an EDA system.

연구 동기 및 목표

• 차원 축소 방법에서 정적이고 사전 정의된 기준이 사용자 관련 패턴을 놓칠 수 있는 한계를 해결하기 위해.
• 사용자가 관찰한 지식(예: 클러스터)을 수학적 지식이 필요 없는 직관적인 방식으로 표현할 수 있도록 하기 위해.
• 최대 엔트로피 원리에 기반해 사용자 지식을 반영하여 시스템의 믿음 상태를 동적으로 갱신함으로써 다음으로 가장 정보가 많은 시각화를 안내하기 위해.
• 사용자 이해에 맞게 적응하는 상호작용적 EDA 시스템을 구축하여 고정된 히وري스틱(예: 높은 분산)에 의존하지 않기 위해.

제안 방법

• 시스템은 사용자가 식별한 패턴(예: "이 점들의 집합은 클러스터입니다")을 제약 조건으로 삼아 사용자의 현재 지식을 최대 엔트로피 분포로 모델링한다.
• 투영 추구(Projection Pursuit)를 사용하여 데이터와 배경 분포 간의 쿨백-라이블러 발산이 최대가 되는 2차원 투영을 찾는다.
• 사용자는 반복적으로 시각화된 투영에서 패턴을 표시하며, 이는 배경 분포를 갱신하기 위한 제약 조건으로 정형화된다.
• 데이터와 배경 분포가 유사해질 때까지 과정을 반복함으로써 더 이상 새로운 구조가 보이지 않음을 나타낸다.
• 이 방법은 정보이론에 기반하며, 계산의 실현 가능성을 확보하기 위해 지수족 분포(특히 다변량 정규분포)를 사용한다.
• 이 시스템은 고차원 데이터와 실시간으로 상호작용할 수 있도록 구현된 오픈소스 도구인 SIDER로 구현되었다.

실험 결과

연구 질문

• RQ1 사용자가 관찰한 패턴에 대한 주관적인 피드백를 데이터 시각화를 안내하기 위한 계산 모델로 정형화할 수 있는가?
• RQ2 최대 엔트로피를 사용하는 정보이론 기반 프레임워크가 가장 새로운 정보를 담고 있는 시각화를 효과적으로 우선순위 정렬할 수 있는가?
• RQ3 사용자 지식의 통합이 기존 자동화된 방법에 비해 탐색적 데이터 분석의 효율성과 관련성에 어떻게 기여하는가?
• RQ4 시스템은 상호작용 성능를 유지하면서 실제 고차원 데이터 세트에도 확장 가능한가?
• RQ5 사용자 지식에 동적으로 적응하는 시스템의 성능가 표준 시각화 기준(예: PCA)과 비교해 어떻게 다른가?

주요 결과

• 시스템은 표준 PCA 투영에서 보이지 않는 숨겨진 클러스터를 합성 데이터에서 성공적으로 드러내었으며, 3차원 공간에서 겹치는 작은 클러스터의 경우가 그 예이다.
• 프로토타입 시스템인 SIDER는 실용적인 성능을 보였으며, 수천 개의 행을 포함한 데이터 세트, 실존하는 유세포 분석 데이터까지도 처리할 수 있었다.
• 사용자는 반복적으로 구조를 표시함으로써 효율적으로 새로운 패턴을 발견하였으며, 시스템은 정보이론 기반 기준에 따라 일관되게 정보가 많은 투영을 선택하였다.
• 이 방법은 단순히 높은 분산 성분에 집중하는 대신 사용자 관련이고 명백하지 않은 구조에 초점을 맞추므로, PCA와 같은 정적 방법보다 뛰어난 성능을 보였다.
• 직관적인 패턴 표시 방식을 통한 사용자 피드백 통합은 탐색 과정의 관련성과 효율성을 크게 향상시켰다.