[논문 리뷰] Dyadic data analysis with amen

Peter D. Hoff|arXiv (Cornell University)|2015. 06. 26.

Statistical Methods and Bayesian Inference참고 문헌 10인용 수 23

한 줄 요약

이 논문은 연속형, 이진형, 순서형, 케일드, 결측치 데이터를 포함한 이변량 데이터를 베이지안 MCMC 추정을 통해 모델링할 수 있는 amen R 패키지를 소개한다. 추가 및 곱셈형 랜덤 효과 모델을 사용하여 잠재 요인 구조가 전이성과 확률적 동등성을 포착하는 방식을 설명하며, 무역 및 냉전 기간의 갈등/협력 데이터에서 뚜렷한 이변량 효과가 있음을 확인한다.

ABSTRACT

Dyadic data on pairs of objects, such as relational or social network data, often exhibit strong statistical dependencies. Certain types of second-order dependencies, such as degree heterogeneity and reciprocity, can be well-represented with additive random effects models. Higher-order dependencies, such as transitivity and stochastic equivalence, can often be represented with multiplicative effects. The "amen" package for the R statistical computing environment provides estimation and inference for a class of additive and multiplicative random effects models for ordinal, continuous, binary and other types of dyadic data. The package also provides methods for missing, censored and fixed-rank nomination data, as well as longitudinal dyadic data. This tutorial illustrates the "amen" package via example statistical analyses of several of these different data types.

연구 동기 및 목표

• reciprocity, transitivity, degree heterogeneity와 같은 복잡한 의존성을 갖는 이변량 데이터를 분석하기 위한 유연한 통계적 프레임워크 개발
• 전통적 ANOVA의 한계를 극복하기 위해 발신자 및 수신자 역할의 노드 이질성을 모델링하는 랜덤 효과를 통합
• 이진형, 순서형, 케일드, 고정 순위 노미네이션 데이터를 포함한 비정규 분포 결과에 대한 모델링 능력 확장
• 다양한 이변량 데이터 유형에 대한 추정, 추론 및 진단을 지원하는 통합 계산 도구로 amen R 패키지 제공
• 저랭크 잠재 요인 모델을 활용해 대칭적이고 종단적인 이변량 데이터를 분석하여 전이성과 유사성과 같은 고차원 의존성 포착 가능

제안 방법

• 사회행렬 데이터의 행과 열의 이질성을 표현하기 위해 추가 랜덤 효과 모델(AME)을 사용하며, $ y_{i,j} = \mu + a_i + b_j + \epsilon_{i,j} $.
• 낮은 랭크 분해 $ \mathbf{M} = \mathbf{U}\boldsymbol{\Lambda}\mathbf{U}^T $ 를 통한 곱셈형 잠재 요인 모델을 적용하여 전이성과 확률적 동등성 모델링.
• 베이지안 계층 모델링을 활용한 MCMC 샘플링을 통한 후행 추론, Gibbs 샘플링 및 메트로폴리스-하스팅스 업데이트 포함.
• 가우시안, 이진형, 순서형, 케일드, 고정 순위 노미네이션 데이터 등 다양한 결과 유형 지원, 적절한 우도 함수 및 링크 함수 사용.
• 선형 예측 변수 내 회귀 성분을 통한 노드 및 이변량 공변량 통합, 관측된 특성 조정 가능.
• symmetric=TRUE 옵션을 사용한 `ame` 함수를 통한 대칭 모델링을 통해 대칭적인 이변량 관계를 처리하고, 일관된 행 및 열 효과 확보.

실험 결과

연구 질문

• RQ1 추가 및 곱셈형 랜덤 효과 모델이 이변량 데이터의 2차 이상의 의존성을 효과적으로 포착할 수 있는가?
• RQ2 노드 특성(예: GDP, 정치체제)이 국제 무역 또는 갈등과 같은 이변량 결과의 변동성을 얼마나 잘 설명하는가?
• RQ3 저랭크 잠재 요인 모델이 관계 데이터에서 전이성과 확률적 동등성을 얼마나 잘 표현하는가?
• RQ4 결측치, 케일드 관측치, 또는 에고센터 샘플링과 같은 데이터 구조가 모델 추정 및 추론에 어떤 영향을 미치는가?
• RQ5 대칭 이변량 모델이 국제관계 데이터에서 협력과 갈등 패턴을 효과적으로 구분할 수 있는가?

주요 결과

• 사회관계 모델은 국제 무역에서 수출국과 수입국의 행동에 뚜렷한 이질성을 드러내었으며, 미국과 일본이 수출 및 수입 효과에서 가장 높은 값을 보였다.
• 냉전 데이터에서 이변량 공변량 'ldist'(로그 거리)는 협력과 강한 정적 상관관계를 보였으며, 계수 0.365(p < 0.001), 지리적 거리가 갈등 감소와 연관됨을 시사했다.
• 이변량 공변량 'ipol'(정치체제 상호작용)은 유의미한 양의 효과를 보였다(계수 0.133, p = 0.027), 정치체제 유사성이 협력 증진에 기여함을 시사했다.
• 잠재 요인 항의 추정 고유값은 63.61로 네트워크 내 강력한 구조적 특성을 나타내었으며, 협력 쌍은 유사한 잠재 요인 점수를, 갈등 쌍은 반대 부호의 점수를 가짐.
• 진단 플롯은 장기간의 버닝 인과 샘플링(100,000회 반복) 후 양호한 MCMC 혼합을 확인하였으며, 대칭 순서형 모델의 후행 추정치가 타당함을 검증했다.
• 모델은 비대칭 패턴을 효과적으로 포착하였다: 유사한 잠재 요인 점수를 가진 국가들은 협력 경향이 높았고, 반대 부호를 가진 국가들은 갈등 경향이 더 높았다.