[논문 리뷰] Dual Representation of Minimum Divergence Under Integral Constraints

Shubhanshu Shekhar, Shubhada Agrawal|arXiv (Cornell University)|2026. 03. 22.

Advanced Bandit Algorithms Research인용 수 0

한 줄 요약

본 논문은 [0,1]^K 분포에 대한 적분 제약 하에서 두 번째 인자에서의 최소 발산에 대한 이중 표현을 도출하기 위한 두 단계 이산화 기반 방법을 개발하고, KL_inf 및 f-발산의 확장을 sequential inference에 대한 응용과 함께 제시한다.

ABSTRACT

Minimum divergence problems under integral constraints appear throughout statistics and probability, including sequential inference, bandit theory, and distributionally robust optimization. In many such settings, dual representations are the key step that convert information-theoretic lower bounds into computationally tractable (and often near-optimal) algorithms. In this paper, we present a general two-stage recipe for deriving dual representations of constrained minimum divergence (in the second argument) for distributions supported on $[0,1]^K$. The first stage derives a dual representation for finitely-supported distributions using classical finite-dimensional convex duality techniques, while the second establishes an abstract interchange argument that lifts this discretized dual to arbitrary distributions. We begin with the simplest case of mean-constrained minimum relative entropy, commonly called $\mathrm{KL}_{\inf}$, and generalize an existing argument from multi-armed bandits literature for $K=1$ to arbitrary dimensions. Our main contribution is to significantly expand the scope of this approach to a broad class of $f$-divergences (beyond relative entropy) and to general integral constraint functionals (beyond the mean constraint). Finally, we illustrate the statistical implications of our results by constructing optimal procedures for sequential testing, estimation, and change detection with observations in $[0,1]^K$.

연구 동기 및 목표

• [0,1]^K 분포에 대해 적분 제약 하에서 두 번째 인자에서의 최소 발산에 대한 이중 표현을 개발한다.
• KL_inf에서 일반적인 f-발산 및 일반 적분 제약 기능적으로 이중성 결과를 확장한다.
• 구성적인 이산화 기반 파이프라인과 극한 주장을 통해 일반 분포로의 확장을 제공한다.
• 테스트, 추정, 변화 탐지와 같은 순차 추론 문제에 결과 이중 표현을 적용한다.

제안 방법

• 고전적 볼록 쌍대성(convex duality)을 사용하여 유한 지지 분포에 대한 이중성을 도출한다.
• 두 단계 이산화 파이프라인을 도입한다: (i) 정확한 제약 만족으로 유한 지지로 이산화, (ii) DPI와 하한 연속성(lower semicontinuity)을 활용한 극한 주장을 통해 이중성을 임의의 분포로 리프트.
• 상대 엔트로피를 넘어 일반 f-발산 클래스까지 프레임워크를 확장한다.
• KL_inf 설정에서 평균 제약을 정확히 보존하기 위해 평균 보존 이산화 채널을 사용하고, 일반 제약에 대한 제약 만족을 근사하는 것으로 일반화한다.
• 이 조건하에서 이산화된 이중성이 연속 이중성으로 수렴하는 조건을 확립하고 이 조건하에서 I(P,g,C)에 대한 추상적 이중 표현을 형식화한다.
• [0,1]^K 값을 가지는 관측치를 사용하는 순차적 테스트, 추정, 변화 탐지에 대한 통계적 응용을 논의한다.

실험 결과

연구 질문

• RQ1 [0,1]^K 분포에 대해 적분 제약 하에서 I(P,g,C)에 대한 이중 표현을 어떻게 얻을 수 있는가?
• RQ2 두 단계 이산화 접근법(유한 지지 이중성과 극한 주장을 따른다)이 평균을 넘어서는 일반 f-발산 및 제약으로 확장될 수 있는가?
• RQ3 이산화된 이중성이 연속 이중성으로 수렴하고 유한 분포에서 일반 분포로의 리프팅을 허용하는 확인 가능한 조건은 무엇인가?
• RQ4 일반 적분 제약 하에서 KL_inf의 이중 형태와 헬링거(Hellinger), 카이제곱(Chi-squared) 등 다른 발산들에 대한 이중 형태는 무엇인가?
• RQ5 이러한 이중 표현이 [0,1]^K 데이터의 순차 추론 작업에 대해 최적 절차에 어떻게 정보를 제공하는가?

주요 결과

• 유한 지지 경우에서 KL_inf에 대한 이중 표현이 도출되고 극한 주장을 통해 일반 분포로 확장된다.
• 평균 보존 이산화 채널이 도입되어 이산화에서 평균 제약을 정확히 보존한다.
• 두 단계 접근법이 KL_inf에서 더 넓은 f-발산 클래스와 일반 연속 제약으로 확장된다.
• 약한 규칙성 및 연속성 가정 하에 I(P,g,C)에 대한 추상적 이중 표현 프레임워크가 개발되어 적용 범위를 넓힌다.
• 결과는 순차 추론 작업과 연계되어 [0,1]^K 관측치에 대한 테스트, 추정 및 변화 탐지의 최적 절차를 제시한다.