[論文レビュー] Regression with network cohesion

Tianxi Li, Elizaveta Levina+1 more|arXiv (Cornell University)|Feb 3, 2016

Complex Network Analysis Techniques参考文献 23被引用数 1

ひとこと要約

この論文は、社会的ネットワークにおいて接続された個人の予測値を類似させるよう促すネットワークに基づくペナルティを回帰モデルに導入し、ネットワークの結束性を活用して予測精度を向上させる手法を提案する。AddHealth研究の思春児の行動データに適用したところ、レクリエーション活動や大麻使用の予測性能が顕著に向上し、同時に共変量効果の解釈可能性も維持された。

ABSTRACT

Prediction algorithms typically assume the training data are independent samples, but in many modern applications samples come from individuals connected by a network. For example, in adolescent health studies of risk-taking behaviors, information on the subjects' social network is often available and plays an important role through network cohesion, the empirically observed phenomenon of friends behaving similarly. Taking cohesion into account in prediction models should allow us to improve their performance. Here we propose a network-based penalty on individual node effects to encourage similarity between predictions for linked nodes, and show that incorporating it into prediction leads to improvement over traditional models both theoretically and empirically when network cohesion is present. The penalty can be used with many loss-based prediction methods, such as regression, generalized linear models, and Cox's proportional hazard model. Applications to predicting levels of recreational activity and marijuana usage among teenagers from the AddHealth study based on both demographic covariates and friendship networks are discussed in detail and show that our approach to taking friendships into account can significantly improve predictions of behavior while providing interpretable estimates of covariate effects.

研究の動機と目的

• 従来の予測モデルが独立した訓練サンプルを仮定しているという制限に対処すること。これは、社会的ネットワークデータではしばしば成立しない。
• 友人同士が類似した行動をとる傾向（ネットワークの結束性）を統計的予測モデルに組み込み、予測精度を向上させること。
• 線形回帰、一般化線形モデル、コックス比例ハザードモデルを含む、さまざまな損失関数に基づくモデルに適用可能な汎用的なペナルティ手法を開発すること。
• 行動健康研究において、ネットワーク構造を明示的にモデル化した場合に、予測性能の向上と解釈可能な共変量効果の両方が達成されることを示すこと。
• 公衆衛生および社会科学の応用分野において、社会的ネットワーク情報を予測モデリングに統合する実用的なフレームワークを提供すること。

提案手法

• ネットワーク内の接続されたノード同士の予測値が類似するよう正則化する、ネットワークに基づくペナルティ項を導入する。
• ペナルティは、リンクされたノード間の予測値の差の二乗関数として定式化され、予測値の結束性を促進する。
• 標準的な損失関数（例：最小二乗法、対数尤度）にペナルティ項を統合し、推定のための修正された目的関数を構築する。
• 本手法は、線形回帰、一般化線形モデル、コックス比例ハザードモデルなど、さまざまなモデルに適用可能である。
• 推定は標準的な最適化技術を用い、損失関数にネットワークペナルティを追加することで、フィットネスと結束性のバランスをとる。
• 本アプローチにより、ネットワーク効果と従来の共変量効果の両方の推定が可能となり、解釈可能な推論が可能になる。

実験結果

リサーチクエスチョン

• RQ1 回帰モデルにネットワークの結束性を組み込むことで、社会的ネットワーク内の個人の行動予測精度が向上するか？
• RQ2 ネットワーク依存性が存在する状況下で、ネットワークに基づくペナルティが共変量効果の推定にどのように影響するか？
• RQ3 本手法は、実世界の行動データにおいて、ネットワーク構造を無視する標準モデルを上回る性能を示すか？
• RQ4 本手法は、線形モデルや生存時間モデルを含む、さまざまなタイプの予測モデルに一般化可能か？
• RQ5 ネットワークの結束性を明示的にモデル化した場合、推定された効果の解釈可能性はどの程度か？

主な発見

• 標準モデルと比較して、AddHealthデータセットにおいて、レクリエーション活動および大麻使用の予測精度が本手法で顕著に向上した。
• ネットワークの結束性を組み込むことで、友人間の行動類似性を活用し、より正確な予測が可能になった。
• ネットワーク構造を含めても、共変量効果の推定値は解釈可能であることを維持した。
• ネットワークペナルティは、線形回帰およびコックス比例ハザードモデルを含む、複数のタイプの予測モデルで有効であった。
• 実証的結果から、ネットワークの結束性は適切にモデル化された場合に、予測性能を向上させる意味のある信号であることが示された。
• 本手法は、複雑なネットワーク固有の仮定を必要とせず、標準的な統計モデリングフレームワークに関係データを原理的かつ整合的に統合する方法を提供する。