[논문 리뷰] Semigroups and sequential importance sampling for multiway tables

Ruriko Yoshida, Jing Xi외 3명|arXiv (Cornell University)|2011. 11. 28.

Advanced Combinatorial Mathematics참고 문헌 13인용 수 3

한 줄 요약

이 논문은 고정된 마진 제약 조건 하에서 거부 없이 균일 분포에서 연의표를 생성하기 위한 다항식 시간 순차적 중요도 샘플링(SIS) 알고리즘을 제안한다. 설계 행렬의 크기가 고정되어 있을 때 SIS가 유효한 표를 효율적으로 샘플링할 수 있음을 증명하지만, 실무에서는 특히 로지스틱 회귀 모델 하에서 거부 비율이 높게 유지됨을 확인한다.

ABSTRACT

When an interval of integers between the lower bound $l_i$ and the upper bound $u_i$ is the support of the marginal distribution $n_i|(n_{i-1}, ...,n_1)$, Chen et al, 2005 noticed that sampling from the interval at each step, for $n_i$ during a sequential importance sampling (SIS) procedure, always produces a table which satisfies the marginal constraints. However, in general, the interval may not be equal to the support of the marginal distribution. In this case, the SIS procedure may produce tables which do not satisfy the marginal constraints, leading to rejection Chen et al 2006. In this paper we consider the uniform distribution as the target distribution. First we show that if we fix the number of rows and columns of the design matrix of the model for contingency tables then there exists a polynomial time algorithm in terms of the input size to sample a table from the set of all tables satisfying all marginals defined by the given model via the SIS procedure without rejection. We then show experimentally that in general the SIS procedure may have large rejection rates even with small tables. Further we show that in general the classical SIS procedure in Chen et al, 2005 can have a large rejection rate whose limit is one. When estimating the number of tables in our simulation study, we used the univariate and bivariate logistic regression models since under this model the SIS procedure seems to have higher rate of rejections even with small tables.

연구 동기 및 목표

• 고정된 마진 제약 조건 하에서 연의표를 샘플링하기 위한 거부 없는 SIS 절차를 개발하기 위해.
• 설계 행렬의 크기가 고정되어 있을 때 SIS가 거부 없이 효율적으로 작동할 수 있는 조건을 설정하기 위해.
• 기존의 SIS 방법의 실무적 거부 비율을 분석하기 위해, 특히 로지스틱 회귀 모델 하에서의 경우를 중심으로.
• 다양한 모델 가정 하에서 연의표의 수를 추정하는 데 있어 SIS의 성능을 평가하기 위해.

제안 방법

• 이전 요소들을 조건으로 하여 단계적으로 다중 방향 연의표를 생성하기 위해 순차적 중요도 샘플링(SIS)을 사용한다.
• 모든 마진 제약 조건을 만족하는 표를 샘플링하기 위한 목표 분포로 균일 분포를 적용한다.
• 설계 행렬의 행과 열 차원이 고정되어 있을 경우, SIS가 거부 없이 다항식 시간 내에 작동함을 증명한다.
• SIS에서의 거부 비율을 시뮬레이션하고 분석하기 위해 단변량 및 이변량 로지스틱 회귀 모델을 활용한다.
• 조건부 분포의 지지역을 분석하여, 경계 내에서의 샘플링이 마진 충족을 보장하는지 여부를 판단한다.
• 다양한 모델 설정 하에서 거부 비율과 샘플링 효율성을 평가하기 위해 시뮬레이션 연구를 수행한다.

실험 결과

연구 질문

• RQ1 언제 어떤 조건에서 순차적 중요도 샘플링(SIS)이 모든 마진 제약 조건을 만족하는 연의표를 거부 없이 생성할 수 있는가?
• RQ2 설계 행렬의 크기가 고정되어 있을 때, 고정된 마진을 가진 연의표를 샘플링하기 위한 SIS의 계산 복잡도는 어떻게 되는가?
• RQ3 작은 연의표조차도 기존의 SIS 절차에서 거부 비율이 얼마나 높은가?
• RQ4 로지스틱 회귀와 같은 모델의 선택이 SIS에서 연의표 샘플링의 거부 비율에 상당한 영향을 미치는가?
• RQ5 균일 분포 하에서 고정된 마진을 가진 연의표에 대해 거부 없는 SIS 알고리즘을 구성할 수 있는가?

주요 결과

• 설계 행렬의 행과 열 수가 고정되어 있을 경우, 거부 없이 유효한 연의표를 샘플링할 수 있는 다항식 시간 SIS 알고리즘이 존재한다.
• Chen 등(2005)의 기존 SIS 절차는 작은 표조차도 한계에서 거부 비율이 1에 가까워질 수 있음을 입증한다.
• 로지스틱 회귀 모델을 기반으로 할 경우, 작은 표에서도 높은 거부 비율이 관찰된다.
• 조건부 분포의 지지역이 항상 마진 경계로 정의된 구간과 일치하지 않아, 표준 SIS에서 제약 위반 가능성이 발생할 수 있다.
• 시뮬레이션 결과는 로지스틱 회귀 모델 하에서 단순한 모델보다 거부 비율이 상당히 높다는 것을 확인한다.
• SIS를 거부 없이 작동시킬 수 있는 이론적 조건을 수립하여 효율적인 샘플링 알고리즘의 기초를 마련한다.