[論文レビュー] Reducing False Discoveries in Statistically-Significant Regional-Colocation Mining: A Summary of Results

Subhankar Ghosh, Jayant Gupta+3 more|arXiv (Cornell University)|Jan 1, 2023

Mining Techniques and Economics被引用数 3

ひとこと要約

本稿では、多重同時仮説検定における第一種の誤り（Type-I error）を制御するためのボンフェローニ補正を適用することで、統計的に有意な領域的共存パターン抽出における誤検出を低減する新規アルゴリズム、MultComp-RCMを提案する。理論的分析、実験、およびミネソタ州における実世界の小売業界の事例研究を通じて検証された結果、従来の手法に比べて誤発見率と計算コストの両方を顕著に低減した。

ABSTRACT

Given a set S of spatial feature types, its feature instances, a study area, and a neighbor relationship, the goal is to find pairs <a region (r_{g}), a subset C of S> such that C is a statistically significant regional-colocation pattern in r_{g}. This problem is important for applications in various domains including ecology, economics, and sociology. The problem is computationally challenging due to the exponential number of regional colocation patterns and candidate regions. Previously, we proposed a miner [Subhankar et. al, 2022] that finds statistically significant regional colocation patterns. However, the numerous simultaneous statistical inferences raise the risk of false discoveries (also known as the multiple comparisons problem) and carry a high computational cost. We propose a novel algorithm, namely, multiple comparisons regional colocation miner (MultComp-RCM) which uses a Bonferroni correction. Theoretical analysis, experimental evaluation, and case study results show that the proposed method reduces both the false discovery rate and computational cost.

研究の動機と目的

• 領域的共存パターン抽出における複数同時仮説検定が引き起こす高い誤検出率を是正すること。
• 指数関数的に増加する候補パターンの全範囲にわたる体系的有意性検定に伴う計算コストを低減すること。
• 厳密な統計的補正を組み込むことで、検出された領域的共存パターンの信頼性を向上させること。
• 小売、公衆衛生、生態学などの分野における、真に有意な空間的共存パターンを特定するための堅牢な手法を提供すること。

提案手法

• 提案されたMultComp-RCMアルゴリズムは、領域的共存パターン抽出におけるすべての同時仮説検定に対してボンフェローニ補正を適用してp値を補正する。
• 参加度インデックスを用いて候補領域内での共存頻度を測定し、各領域-パターンペアに対して有意性検定を実施する。
• 家族ワイズ誤り率（family-wise error rate）を制御するため、補正済みの有意水準（alphaレベル）を用いて各候補領域的共存パターンに対して有意性検定を実施する。
• 空間的分割と統計的推論を統合し、参加度インデックスおよび補正済みp値の両方の閾値を満たす領域に限定して処理を行う。
• パイプラインの初期段階で有意でない候補を早期に pruning することで、スケーラビリティを高める設計である。
• 従来の手法（SSRCM）を拡張し、複数比較補正を組み込むことで、統計的厳密性を損なわず誤検出を低減する。

実験結果

リサーチクエスチョン

• RQ1 複数比較問題を効果的に緩和することで、領域的共存パターン抽出における誤検出を低減する方法は何か？
• RQ2 この文脈においてボンフェローニ補正が第一種の誤りと計算コストに与える影響は何か？
• RQ3 SSRCMなどの従来手法と比較して、MultComp-RCMの誤検出率およびパフォーマンスはどのように異なるか？
• RQ4 提案手法は、空間的不均一性が著しい実世界の空間データセットにおいて、真の領域的共存パターンを信頼性高く検出できるか？
• RQ5 統計的厳密性と、まれなが意味のある共存パターンの検出の間に、どのようなトレードオフが生じるか？

主な発見

• MultComp-RCMはボンフェローニ補正を適用することで、すべての同時仮説検定における家族ワイズ誤り率を制御し、誤検出率を低減する。
• 理論的分析により、ベースライン手法であるSSRCMアルゴリズムと比較して、同手法は第一種の誤り率が低いか等しいことが証明された。
• 補正後の有意なパターン数が減少するため、誤検出結果の全処理を回避でき、計算コストが低減された。
• ミネソタ州小売業界の事例研究において、補正済み有意水準（0.05）未満のp値を示す有意な領域的共存パターンが同定された。例えばヘンピン郡における{Caribou Coffee, Starbucks}（p = 0.01、参加度インデックス = 0.34）。
• 本手法は、異なる距離閾値において複数の統計的に有意なパターンを同定できた。例えば1900mの距離でヘンピン郡における{Caribou Coffee, Starbucks, Dunn Bros}（p = 0.01、参加度インデックス = 0.52）。
• 参加度インデックスが高くても偶然に生じる有意でないパターンを排除できるため、MOBRに基づくデータに依存する分割手法（MOBRベースのSSRCM）よりも優れた性能を示した。