[논문 리뷰] Counterfactual inference in sequential experiments

Raaz Dwivedi, Katherine Tian외 4명|arXiv (Cornell University)|2022. 02. 14.

Statistical Methods in Clinical Trials인용 수 4

한 줄 요약

이 논문은 적응적 치료 정책을 가진 순차적 실험에서 반사적 추론을 위한 비모수적 잠재因자 모델을 제안하며, 유닛 및 시간별 반사적 평균에 대한 타당한 신뢰구간을 확보하기 위해 최근접이웃 기반 추정 방법을 사용한다. 규칙성 조건 하에서, 이 방법은 적응적 정책에 대한 최소한의 가정 조건에서도 점점 커지는 확률 오차 한계를 갖는 점차적 타당 추론을 제공한다.

ABSTRACT

We consider after-study statistical inference for sequentially designed experiments wherein multiple units are assigned treatments for multiple time points using treatment policies that adapt over time. Our goal is to provide inference guarantees for the counterfactual mean at the smallest possible scale -- mean outcome under different treatments for each unit and each time -- with minimal assumptions on the adaptive treatment policy. Without any structural assumptions on the counterfactual means, this challenging task is infeasible due to more unknowns than observed data points. To make progress, we introduce a latent factor model over the counterfactual means that serves as a non-parametric generalization of the non-linear mixed effects model and the bilinear latent factor model considered in prior works. For estimation, we use a non-parametric method, namely a variant of nearest neighbors, and establish a non-asymptotic high probability error bound for the counterfactual mean for each unit and each time. Under regularity conditions, this bound leads to asymptotically valid confidence intervals for the counterfactual mean as the number of units and time points grows to $\infty$ together at suitable rates. We illustrate our theory via several simulations and a case study involving data from a mobile health clinical trial HeartSteps.

연구 동기 및 목표

• 순차적 실험에서 적응적 치료 정책을 가진 후 연구 통계적 추론을 유닛 × 시간 수준의 반사적 평균에 대해 가능하게 하기.
• 관측된 데이터 포인트 수보다 미지수의 수가 더 많은 고차원적, 결정되지 않은 반사적 추정 문제를 해결하기.
• 반사적 평균에 대한 강력한 구조적 가정을 최소화하면서도 적응적이고 잠재적으로 통합된 치료 정책 하에서도 타당한 추론을 보장하는 방법을 개발하기.
• 반사적 평균 추정치에 대한 비점차 고확률 오차 한계를 수립하고, N과 T가 증가함에 따라 渐近적으로 타당한 신뢰구간을 유도하기.
• 시뮬레이션과 실제 모바일 헬스 연구(HeartSteps)를 통한 실증 검증을 통해 사용자 이질성과 정책 적응성에 대한 강건성을 입증하기.

제안 방법

• 반사적 평균에 대한 비모수적 잠재因자 모델을 도입하여 비선형 혼합 효과 모델과 이차형 인자 모델을 일반화한다.
• 치료-반응 공간에서 유닛 간 유사성을 활용하여, 최근접이웃 알고리즘의 변형을 사용해 반사적 평균을 추정한다.
• 각 유닛과 시간 포인트에 대해 추정된 반사적 평균에 대한 비점차 고확률 오차 한계를 유도한다.
• N과 T가 함께 증가할 때 수렴 속도를 보여줌으로써, 반사적 평균에 대한 신뢰구간의 점차적 타당성을 확립한다.
• 제한된 데이터로 인해 검증 세트를 사용할 수 없음을 고려해, 훈련 데이터를 기반으로 한 데이터 기반 하이퍼파rameter 조정 전략을 사용하여 최근접이웃 임계값 η를 설정한다.
• 가능한 시간에 대해 치료 및 사용자 특화 평균을 사용해 결측치를 보간하며, 민감도 분석을 위해 비가능한 시간에 대한 대체 보간 전략(예: '가능한' 및 '영' 보간)을 탐색한다.

실험 결과

연구 질문

• RQ1 적응적이고 통합된 치료 정책을 가진 순차적 실험에서 유닛 및 시간별 반사적 평균에 대해 타당한 신뢰구간을 구성할 수 있는가?
• RQ2 관측된 데이터 포인트 수보다도 많은 수의 unknown이 존재할 때, 반사적 추론을 가장 세밀한 척도(유닛 × 시간)에서 어떻게 달성할 수 있는가?
• RQ3 제안된 비모수적 잠재因자 모델이 강력한 파라미터적 가정 없이도 유닛과 시간 간 치료 효과의 이질성을 얼마나 잘 포착하는가?
• RQ4 실제 데이터에서 사용자 이질성에 대해 강건하고, 근접이웃 추정 전략의 경험적 커버리지 성능은 어떠한가?
• RQ5 결측치에 대한 다양한 보간 전략이 결과 행렬의 특이값 분해와 후속 추론에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법은 반사적 평균 추정에 대해 비점차 고확률 오차 한계를 달성하여, 최소한의 가정 조건 하에서도 타당한 추론을 가능하게 한다.
• N과 T가 적절한 비율로 함께 증가함에 따라 반사적 평균에 대한 신뢰구간은 점차적으로 타당해지며, 대규모 표본에서 정확한 커버리지 보장을 한다.
• 조정된 하이퍼파rameter η = 8.72(쌍별 거리의 43번째 백분위수)는 HeartSteps 사례 연구에서 필터링된 35명의 사용자 전원에 대해 최소 3명의 이웃을 확보하여 안정적인 추정을 보장한다.
• IP-TS에서의 사용자 특화 난수 효과와 최근접이웃 수 사이에 음의 상관관계(r = -0.69, p = 0.06)가 관찰되어 사용자 이질성을 잘 포착하고 있음을 시사한다.
• '가능한' 보간 전략은 첫 세 개의 특이 성분으로 60% 이상의 분산을 설명하지만, '영' 보간 전략은 동일한 분산 설명을 위해 약 10개의 성분이 필요하다.
• 35명의 필터링된 사용자에 대한 경험적 커버리지 분석 결과, 방법은 표준 커버리지 수준에 근접하게 유지되며, 히스토그램은 대부분의 사용자가 목표에 가까운 커버리지를 달성하고 있음을 보여준다.