[論文レビュー] Hierarchical array priors for ANOVA decompositions

Alexander Volfovsky, Peter D. Hoff|arXiv (Cornell University)|Aug 8, 2012

Sensory Analysis and Statistical Methods参考文献 20被引用数 7

ひとこと要約

本論文は、主効果と交互作用項の間で適応的に強度を借用できるように、要因水準間の共有構造をモデル化することにより、分散分析分解における階層的アレイ事前分布を導入する。要因別アレイ変量正規事前分布を用いることで、スパースまたは弱い高次交互作用項の推定が、良好に推定された低次効果からの情報を活用することによって向上する。特に、要因水準の係数に一貫したパターンが見られる場合に顕著である。

ABSTRACT

ANOVA decompositions are a standard method for describing and estimating heterogeneity among the means of a response variable across levels of multiple categorical factors. In such a decomposition, the complete set of main effects and interaction terms can be viewed as a collection of vectors, matrices and arrays that share various index sets defined by the factor levels. For many types of categorical factors, it is plausible that an ANOVA decomposition exhibits some consistency across orders of effects, in that the levels of a factor that have similar main-effect coefficients may also have similar coefficients in higher-order interaction terms. In such a case, estimation of the higher-order interactions should be improved by borrowing information from the main effects and lower-order interactions. To take advantage of such patterns, this article introduces a class of hierarchical prior distributions for collections of interaction arrays that can adapt to the presence of such interactions. These prior distributions are based on a type of array-variate normal distribution, for which a covariance matrix for each factor is estimated. This prior is able to adapt to potential similarities among the levels of a factor, and incorporate any such information into the estimation of the effects in which the factor appears. In the presence of such similarities, this prior is able to borrow information from well-estimated main effects and lower-order interactions to assist in the estimation of higher-order terms for which data information is limited.

研究の動機と目的

• データが限られている、またはスパースな状況下で、分散分析における高次交互作用効果の推定という課題に対処すること。
• 主効果と交互作用において、要因水準間の構造的類似性をモデル化すること。同様の主効果係数が、同様の交互作用係数を示すものと仮定する。
• 良好に推定された低次効果からの情報を借用することで、高次項の推定精度を向上させること。
• カテゴリカル分散分析モデルにおけるこのような構造的パターンの存在に適応する柔軟な事前分布を構築すること。

提案手法

• 分散分析分解における相互作用アレイの集合に対して、アレイ変量正規分布に基づく階層的事前分布を提案する。
• 各要因について別個の共分散行列を推定し、主効果および交互作用効果の文脈でその要因の水準間の依存関係を捉える。
• 同じ要因を含む効果間での情報共有を可能にするように事前分布を構造化する。特に、主効果から高次交互作用への情報共有を促進する。
• 同じ要因の水準間で主効果係数が類似していると仮定することで、適応的な強度の借用を実現する。
• 階層ベイズフレームワークを用いて、すべての分散分析成分を同時に推定する。同時に、事前分布が観察されたデータパターンに適応可能であるようにする。
• 要因レベルの類似性を共分散構造に組み込むことで、データが限られた高次項の推定効率が向上する。

実験結果

リサーチクエスチョン

• RQ1 主効果から高次相互作用項の推定に適応的に強度を借用できるような事前分布を設計することは可能か？
• RQ2 主効果における要因水準間の構造的類似性を、高次相互作用の推定にどのように活用できるか？
• RQ3 要因別共分散行列を組み込むことで、分散分析効果推定の正確性がどの程度向上するか？
• RQ4 どのような状況下で、この階層的事前分布が、標準的な非情報的または独立事前分布を上回るか？

主な発見

• 提案された階層的アレイ事前分布は、良好に推定された主効果および低次相互作用から強度を借用することで、高次相互作用効果の推定を向上させる。
• 要因水準に主効果で一貫したパターンが見られる場合、この事前分布はその情報を効果的に対応する相互作用項の推定に転送する。
• 要因水準間の構造的類似性の存在に適応するため、スパースデータ設定下でもより効率的かつ正確な推論が可能になる。
• 要因別共分散行列の使用により、水準間の依存関係を柔軟に表現できるため、過剰適合を伴わずに推定性能が向上する。