[논문 리뷰] Hierarchical array priors for ANOVA decompositions

Alexander Volfovsky, Peter D. Hoff|arXiv (Cornell University)|2012. 08. 08.

Sensory Analysis and Statistical Methods참고 문헌 20인용 수 7

한 줄 요약

이 논문은 주효과와 상호작용 항 간에 강도를 적응적으로 빌리기 위해 요인 수준 간의 공유 구조를 모델링함으로써, 계층적 어레이 사전을 ANOVA 분해에 도입한다. 요인별로 별도의 어레이 변수 정규 사전을 사용함으로써, 희박하거나 약한 고차 상호작용 항의 추정을 향상시켜, 특히 계수에 일관된 패턴을 보이는 요인 수준에서 잘 추정된 주효과로부터 정보를 활용한다.

ABSTRACT

ANOVA decompositions are a standard method for describing and estimating heterogeneity among the means of a response variable across levels of multiple categorical factors. In such a decomposition, the complete set of main effects and interaction terms can be viewed as a collection of vectors, matrices and arrays that share various index sets defined by the factor levels. For many types of categorical factors, it is plausible that an ANOVA decomposition exhibits some consistency across orders of effects, in that the levels of a factor that have similar main-effect coefficients may also have similar coefficients in higher-order interaction terms. In such a case, estimation of the higher-order interactions should be improved by borrowing information from the main effects and lower-order interactions. To take advantage of such patterns, this article introduces a class of hierarchical prior distributions for collections of interaction arrays that can adapt to the presence of such interactions. These prior distributions are based on a type of array-variate normal distribution, for which a covariance matrix for each factor is estimated. This prior is able to adapt to potential similarities among the levels of a factor, and incorporate any such information into the estimation of the effects in which the factor appears. In the presence of such similarities, this prior is able to borrow information from well-estimated main effects and lower-order interactions to assist in the estimation of higher-order terms for which data information is limited.

연구 동기 및 목표

• 자료가 제한되거나 희박한 상황에서 ANOVA에서 고차 상호작용 항을 추정하는 데 도전하는 데 목적을 두며.
• 주효과와 상호작용 항 모두에서 요인 수준 간의 구조적 유사성을 모델링하며, 유사한 주효과 계수는 유사한 상호작용 계수를 암시한다고 가정한다.
• 잘 추정된 저차 항으로부터 정보를 빌림으로써 고차 항의 추정 정확도를 향상시키는 데 목적이 있다.
• 범주형 ANOVA 모델에서 이러한 구조적 패턴의 존재에 적응하는 유연한 사전 분포를 개발하는 데 목적이 있다.

제안 방법

• ANOVA 분해의 상호작용 어레이 집합에 대해 어레이 변수 정규 분포를 기반으로 하는 계층적 사전 분포를 제안한다.
• 각 요인에 대해 별도의 공분산 행렬을 추정하여, 주효과 및 상호작용 항의 맥락에서 요인 수준 간의 의존성을 캡처한다.
• 동일한 요인에 포함된 효과들 간의 정보 공유를 허용하도록 사전을 구조화하며, 특히 주효과에서 고차 상호작용 항으로의 정보 공유를 강조한다.
• 요인 수준 간 주효과 계수가 유사할 경우 상호작용 계수도 유사할 것이라는 가정을 표현함으로써 적응적인 강도 빌림을 가능하게 한다.
• 모든 ANOVA 성분을 동시에 추정할 수 있도록 계층적 베이지안 프레임워크를 사용하며, 사전이 관측된 데이터 패턴에 적응하도록 한다.
• 요인 수준 간 유사성을 공분산 구조에 통합함으로써, 데이터가 희박한 고차 항의 추정 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 주효과에서 고차 상호작용 항의 추정을 향상시키기 위해, 주효과로부터 강도를 적응적으로 빌리는 사전 분포를 설계할 수 있는가?
• RQ2 주효과에서 요인 수준 간의 구조적 유사성을 어떻게 활용하여 고차 상호작용의 추정을 향상시킬 수 있는가?
• RQ3 요인별 공분산 행렬을 통합할 경우 ANOVA 효과 추정의 정확도가 어느 정도 향상되는가?
• RQ4 이 계층적 사전이 상호작용 항에 대해 표준 비정보성 또는 독립 사전보다 우월한 성능을 보이는 상황은 어떤가?

주요 결과

• 제안된 계층적 어레이 사전은 잘 추정된 주효과 및 저차 상호작용 항으로부터 강도를 빌림으로써 고차 상호작용 항의 추정을 향상시킨다.
• 요인 수준에서 주효과에 일관된 패턴이 나타날 경우, 사전은 이러한 정보를 효과적으로 해당 상호작용 항의 추정 향상에 전달한다.
• 요인 수준 간의 구조적 유사성의 존재에 적응함으로써, 희박한 자료 환경에서 더 효율적이고 정확한 추론을 가능하게 한다.
• 요인별 공분산 행렬의 사용은 수준 간 의존성을 민첩하게 표현할 수 있게 하여 과적합 없이 추정 성능을 향상시킨다.