[논문 리뷰] Learning Influence Functions from Incomplete Observations

Xinran He, Ke Xu외 2명|arXiv (Cornell University)|2016. 11. 07.

Bayesian Modeling and Causal Inference인용 수 19

한 줄 요약

이 논문은 노드 활성화가 무작위로 누락되는 불완전한 캐스케이드 관측에서 사회적 네트워크 내 影향 함수를 학습하기 위한 프레임워크를 제안한다. 누락된 데이터를 변형된 그래프로 모델링하고, 도달 가능성 기반의 특징 파arametrization과 수정된 손실 함수를 사용함으로써, DIC, DLT, CIC 확산 모델에 대해 적절한 및 부적절한 PAC 학습 가능성을 확보하며, 실제 데이터에서 심각한 누락이 존재함에도 불구하고 추정 오차를 약 20% 감소시킨다.

ABSTRACT

We study the problem of learning influence functions under incomplete observations of node activations. Incomplete observations are a major concern as most (online and real-world) social networks are not fully observable. We establish both proper and improper PAC learnability of influence functions under randomly missing observations. Proper PAC learnability under the Discrete-Time Linear Threshold (DLT) and Discrete-Time Independent Cascade (DIC) models is established by reducing incomplete observations to complete observations in a modified graph. Our improper PAC learnability result applies for the DLT and DIC models as well as the Continuous-Time Independent Cascade (CIC) model. It is based on a parametrization in terms of reachability features, and also gives rise to an efficient and practical heuristic. Experiments on synthetic and real-world datasets demonstrate the ability of our method to compensate even for a fairly large fraction of missing observations.

연구 동기 및 목표

• 실세계 사회적 네트워크에서 흔한 문제이지만, 노드 활성화가 부분적으로 관측되지 않을 경우 영향 함수를 학습하는 데 도전하는 문제를 다루는 것.
• DIC 및 DLT와 같이 널리 사용되는 확산 모델에 대해, 불완전한 관측 하에서 영향 함수의 이론적 PAC 학습 가능성을 확립하는 것.
• 완전한 관측이 필요 없이도 누락된 활성화 데이터를 보완할 수 있는 효율적이고 실용적인 학습 알고리즘을 설계하는 것.
• 연속 시간 모델(CIC)으로 이론적 보장을 확장하고, 유지율에 대한 불확실성에 대한 강건성을 확보하는 것.
• 합성 및 실세계 데이터셋에서의 경험적 효과성을 입증하여, 기준선 방법에 비해 뚜렷한 성능 향상을 보이는 것.

제안 방법

• 관측이 불완전한 경우를 완전한 관측으로 간주하는 변형된 그래프에서 처리하며, 간선 가중치를 유지율 r에 기반해 조정하여 기대되는 영향 전파를 유지한다.
• Du 등 [3]의 영감을 받아 도달 가능성 기반 특징을 활용한 영향 함수의 파arametrization을 사용하여, 시드 집합에서 도달 가능한 노드의 함수로 영향을 표현한다.
• Natarajan 등 [17]의 손실 함수를 수정하여, 관측되지 않은 노드의 기여도를 낮추거나 조정함으로써 누락된 활성화를 고려한다.
• 변형된 그래프에서 완전한 관측 학습으로의 환원을 통해 DIC 및 DLT 모델에 대해 적절한 PAC 학습 가능성을 증명한다.
• 도달 가능성 특징 접근법을 통해 DIC, DLT, CIC 모델에 대해 부적절한 PAC 학습 가능성을 확립하며, 은닉 변수에 대한 최적화가 계산적으로 불가능한 경우에도 적용 가능하다.
• 유지율 r의 역수에 비례하는 중간 정도의 비율로 증가하는 표본 복잡도 한계를 제시하며, 누락된 데이터가 필요한 표본 수를 크게 증가시키지 않음을 보여준다.

실험 결과

연구 질문

• RQ1 노드 활성화가 무작위로 누락되는 불완전한 관측 하에서 영향 함수를 적절한 PAC로 학습할 수 있는가?
• RQ2 관측이 불완전할 경우 영향 함수 학습의 표본 복잡도가 크게 증가하는가?
• RQ3 특히 CIC와 같은 연속 시간 모델에 대해, 불완전한 관측 하에서 효율적이고 실용적인 영향 함수 학습 알고리즘을 설계할 수 있는가?
• RQ4 유지율 r에 대한 불확실성, 특히 r이 정확히 알려져 있지 않을 경우에 이 방법은 얼마나 강건한가?
• RQ5 실세계 캐스케이드에서 큰 비율의 활성화 누락을 얼마나 잘 보완할 수 있는가?

주요 결과

• DIC 및 DLT 모델에 대해 표본 복잡도 ˜O(¯r²n³m/ε²)로 적절한 PAC 학습 가능성을 입증하며, 불완전한 관측이 필요한 표본 수를 크게 증가시키지 않음을 보여준다.
• CIC 모델에 대해 도달 가능성 특징 파arametrization과 수정된 손실 함수를 통해 부적절한 PAC 학습 가능성을 달성하며, 이는 이론적 보장을 이산 시간 모델을 초월해 확장한 것이다.
• 실제 MemeTracker 데이터셋에서 기준선 중 최고 성능를 기록한 방법 대비 약 20% 낮은 추정 오차를 기록하며, 심각한 누락 데이터가 존재함에도 불구하고 성능을 유지한다.
• 유지율 r의 잘못된 추정에 대해 강건하며, 중간 정도의 불확실성(예: η ≤ 0.2) 하에서도 성능이 안정적이다.
• 진짜 유지율이 알려진 간격 I = [¯r(1−η), ¯r(1+η)] 내에 존재하는 경우에도 이론적 결과가 확장되며, 오차 항은 η에 의존하지만, 작은 불확실성에서는 여전히 작다.
• 경험적 결과는 진짜 유지율이 추정 평균 주변에서 독립적으로 변동할 경우 성능이 뚜렷하게 떨어지지 않음을 확인한다.