[논문 리뷰] A geometric approach to sample compression

Benjamin I. P. Rubinstein, J Rubinstein|arXiv (Cornell University)|2012. 01. 01.

Advanced Combinatorial Mathematics참고 문헌 29인용 수 33

한 줄 요약

이 논문은 유한한 최대 개념 클래스가 유클리드 또는 쌍곡 기하 공간에서 조각적 선형 초평면 배열로 표현될 수 있음을 보여주는 기하적 접근을 제시한다. 이를 통해 입체 복합체 위에서 패치너 이동을 이용한 스위핑 기법을 도입하여 VC 차원과 크기가 같은 비라벨링 압축 체계를 구성함으로써, 쿠즈민 & 웜스터의 추측을 해결하고, 일부 최대 클래스가 VC 차원 증가가 유계인 최대 클래스에 통합될 수 없음을 증명한다.

ABSTRACT

The Sample Compression Conjecture of Littlestone & Warmuth has remained unsolved for a quarter century. While maximum classes (concept classes meeting Sauer's Lemma with equality) can be compressed, the compression of general concept classes reduces to compressing maximal classes (classes that cannot be expanded without increasing VC dimension). Two promising ways forward are: embedding maximal classes into maximum classes with at most a polynomial increase to VC dimension, and compression via operating on geometric representations. This paper presents positive results on the latter approach and a first negative result on the former, through a systematic investigation of finite maximum classes. Simple arrangements of hyperplanes in hyperbolic space are shown to represent maximum classes, generalizing the corresponding Euclidean result. We show that sweeping a generic hyperplane across such arrangements forms an unlabeled compression scheme of size VC dimension and corresponds to a special case of peeling the one-inclusion graph, resolving a recent conjecture of Kuzmin & Warmuth. A bijection between finite maximum classes and certain arrangements of piecewise-linear (PL) hyperplanes in either a ball or Euclidean space is established. Finally we show that d-maximum classes corresponding to PL-hyperplane arrangements in Rd have cubical complexes homeomorphic to a d-ball, or equivalently complexes that are manifolds with boundary. A main result is that PL arrangements can be swept by a moving hyperplane to unlabeled d-compress any finite maximum class, forming a peeling scheme as conjectured by Kuzmin & Warmuth. A corollary is that some d-maximal classes cannot be embedded into any maximum class of VC-dimension d+k, for any constant k. The construction of the PL sweeping involves Pachner moves on the one-inclusion graph, corresponding to moves of a hyperplane across the intersection of d other hyperplanes. This extends the well known Pachner moves for triangulations to cubical complexes.

연구 동기 및 목표

• 최대 개념 클래스—샘플 압축 추측의 핵심 요소—가 기하적 표현을 통해 압축될 수 있는지 조사하기 위해.
• 유한한 최대 클래스가 VC 차원 증가가 유계인 더 큰 최대 클래스에 포함될 수 있는지 판단하기 위해.
• 조각적 선형 배열을 기반으로 한 비라벨링 샘플 압축 체계를 위한 기하적 구성법을 수립하기 위해.
• 일부 d-최대 클래스가 상수 k에 대해 VC 차원 d+k를 갖는 어떤 최대 클래스에도 포함될 수 없음을 증명하기 위해.
• 최대 클래스의 일인클루전 그래프에 대해 패치너 이동을 통한 기하적 벗기기 과정을 체계화하기 위해.

제안 방법

• 유한한 최대 개념 클래스를 d-구 또는 유클리드 공간 내의 조각적 선형(PL) 초평면 배열로 표현하기 위해.
• 일인클루전 그래프 상의 순차적 벗기기 과정을 시뮬레이션하기 위해 PL 배열을 가로질러 초평면을 스위핑하기 위해.
• 스위핑 과정을 패치너 이동을 통해 모델링하여, d개의 다른 초평면의 교차점을 가로질러 초평면을 이동시키는 것을 의미하기 위해.
• 유한한 최대 클래스와 ℝd 내 특정 PL 초평면 배열 사이의 일대일 대응을 확립하기 위해.
• 결과로 얻어진 입체 복합체가 d-구와 위상동형임을 증명하여, 경계를 가진 다양체임을 의미하기 위해.
• 기하적 스위핑을 적용하여 VC 차원과 크기가 같은 비라벨링 압축 체계를 구성하기 위해.

실험 결과

연구 질문

• RQ1 유한한 최대 개념 클래스는 유클리드 또는 쌍곡 기하 공간 내에서 조각적 선형 초평면 배열로 기하적으로 표현될 수 있는가?
• RQ2 이러한 배열에 대해 기하적 스위핑 과정을 적용하면 VC 차원과 크기가 같은 비라벨링 압축 체계가 도출되는가?
• RQ3 모든 d-최대 클래스는 어떤 상수 k에 대해 VC 차원 d+k를 갖는 최대 클래스에 포함될 수 있는가?
• RQ4 최대 클래스의 일인클루전 그래프와 d-구와 위상동형인 입체 복합체 사이에 대응 관계가 존재하는가?
• RQ5 일인클루전 그래프에서의 패치너 이동은 기하적 표현 내에서 유효한 초평면 스위핑과 대응되는가?

주요 결과

• 유한한 최대 클래스는 d-구 또는 유클리드 공간 내 특정 PL 초평면 배열과 일대일 대응된다.
• d-최대 클래스와 관련된 입체 복합체는 d-구와 위상동형이므로, 경계를 가진 다양체임을 확인한다.
• PL 배열을 가로질러 스위핑 초평면을 적용하면 VC 차원과 크기가 같은 비라벨링 압축 체계가 생성되며, 이는 쿠즈민 & 웜스터의 추측을 확인한다.
• 스위핑 과정은 일인클루전 그래프에서의 패치너 이동과 대응되며, 이러한 이동을 입체 복합체로 확장한다.
• 일부 d-최대 클래스는 상수 k에 대해 VC 차원 d+k를 갖는 어떤 최대 클래스에도 포함될 수 없으며, 이는 임베딩 기반 압축에 대한 본질적 한계를 규명한다.
• PL 초평면 배열을 통한 기하적 접근은 유한한 최대 클래스의 비라벨링 압축을 위한 구체적 방법을 제공한다.