[論文レビュー] A geometric approach to sample compression

Benjamin I. P. Rubinstein, J Rubinstein|arXiv (Cornell University)|Jan 1, 2012

Advanced Combinatorial Mathematics参考文献 29被引用数 33

ひとこと要約

本稿では、有限最大概念クラスがユークリッド空間または双曲空間内の折れ線的（PL）超平面配置として表現可能であることを示すことにより、幾何的アプローチによるサンプル圧縮を提示する。立方体複体におけるパッチャー移動を用いたスイーピング機構を導入し、VC次元と等しいサイズのラベルなし圧縮スキームを構築することで、Kuzmin & Warmuthの予想を解決し、一部の最大クラスがVC次元の増加が有界な最大クラスに埋め込めないことを証明する。

ABSTRACT

The Sample Compression Conjecture of Littlestone & Warmuth has remained unsolved for a quarter century. While maximum classes (concept classes meeting Sauer's Lemma with equality) can be compressed, the compression of general concept classes reduces to compressing maximal classes (classes that cannot be expanded without increasing VC dimension). Two promising ways forward are: embedding maximal classes into maximum classes with at most a polynomial increase to VC dimension, and compression via operating on geometric representations. This paper presents positive results on the latter approach and a first negative result on the former, through a systematic investigation of finite maximum classes. Simple arrangements of hyperplanes in hyperbolic space are shown to represent maximum classes, generalizing the corresponding Euclidean result. We show that sweeping a generic hyperplane across such arrangements forms an unlabeled compression scheme of size VC dimension and corresponds to a special case of peeling the one-inclusion graph, resolving a recent conjecture of Kuzmin & Warmuth. A bijection between finite maximum classes and certain arrangements of piecewise-linear (PL) hyperplanes in either a ball or Euclidean space is established. Finally we show that d-maximum classes corresponding to PL-hyperplane arrangements in Rd have cubical complexes homeomorphic to a d-ball, or equivalently complexes that are manifolds with boundary. A main result is that PL arrangements can be swept by a moving hyperplane to unlabeled d-compress any finite maximum class, forming a peeling scheme as conjectured by Kuzmin & Warmuth. A corollary is that some d-maximal classes cannot be embedded into any maximum class of VC-dimension d+k, for any constant k. The construction of the PL sweeping involves Pachner moves on the one-inclusion graph, corresponding to moves of a hyperplane across the intersection of d other hyperplanes. This extends the well known Pachner moves for triangulations to cubical complexes.

研究の動機と目的

• 最大概念クラス—サンプル圧縮予想の中心的対象—が幾何的表現を用いて圧縮可能かどうかを調査すること。
• 有限最大クラスがVC次元の増加が有界な範囲でより大きな最大クラスに埋め込めるかどうかを特定すること。
• 折れ線的（PL）配置を用いたスイーピング超平面を通じて、ラベルなしサンプル圧縮スキームの幾何的構成を確立すること。
• 特定のd-最大クラスが、定数kに対してVC次元d+kの任意の最大クラスに埋め込めないことを証明すること。
• 最大クラスの1-包含グラフにおけるパッチャー移動を用いた幾何的ピーリングプロセスを形式化すること。

提案手法

• 有限最大概念クラスをd-球またはユークリッド空間内の折れ線的（PL）超平面配置として表現する。
• 1-包含グラフ上の逐次ピーリングプロセスを模倣するために、PL配置を横切るスイーピング超平面を用いる。
• スイーピングプロセスをパッチャー移動によってモデル化し、これはd個の他の超平面の交点を越えて超平面を移動することに対応する。
• 有限最大クラスとRd内での特定のPL超平面配置との間の全単射を確立する。
• 得られた立方体複体がd-球と位相的に同相であることを証明し、境界を持つ多様体であることを示す。
• 幾何的スイーピングを適用して、VC次元と等しいサイズのラベルなし圧縮スキームを構築する。

実験結果

リサーチクエスチョン

• RQ1 有限最大概念クラスは、ユークリッド空間または双曲空間内でのPL超平面配置として幾何的に表現可能か？
• RQ2 このような配置に対する幾何的スイーピングプロセスは、VC次元と等しいサイズのラベルなし圧縮スキームをもたらすか？
• RQ3 任意のd-最大クラスは、ある定数kに対してVC次元d+kの最大クラスに埋め込めるか？
• RQ4 最大クラスの1-包含グラフと、d-球と位相的に同相な立方体複体との間に対応関係があるか？
• RQ5 1-包含グラフにおけるパッチャー移動は、幾何的表現における有効な超平面スイーピングに対応するか？

主な発見

• 有限最大クラスは、d-球またはユークリッド空間内での特定のPL超平面配置と全単射で対応する。
• d-最大クラスに関連する立方体複体はd-球と位相的に同型であり、境界を持つ多様体であることが確認された。
• PL配置を横切るスイーピング超平面は、VC次元と等しいサイズのラベルなし圧縮スキームを生成し、Kuzmin & Warmuthの予想が正当化された。
• スイーピングプロセスは1-包含グラフにおけるパッチャー移動に対応し、これらの移動を立方体複体へ拡張した。
• 一部のd-最大クラスは、定数kに対してVC次元d+kの任意の最大クラスに埋め込めないことが示され、埋め込みベースの圧縮における根本的限界が確立された。
• PL超平面配置を用いた幾何的アプローチにより、有限最大クラスのラベルなし圧縮の構成的メソッドが提供された。