[论文解读] Reducing False Discoveries in Statistically-Significant Regional-Colocation Mining: A Summary of Results

Subhankar Ghosh, Jayant Gupta+3 more|arXiv (Cornell University)|Jan 1, 2023

Mining Techniques and Economics被引用 3

一句话总结

该论文提出 MultComp-RCM，一种新颖算法，通过在多个同时进行的统计检验中应用邦费罗尼校正来控制第一类错误，从而减少在区域共现模式挖掘中的假阳性发现。与先前方法相比，该方法在理论分析、实验和明尼苏达州零售业真实案例研究中均显著降低了假发现率和计算成本。

ABSTRACT

Given a set S of spatial feature types, its feature instances, a study area, and a neighbor relationship, the goal is to find pairs <a region (r_{g}), a subset C of S> such that C is a statistically significant regional-colocation pattern in r_{g}. This problem is important for applications in various domains including ecology, economics, and sociology. The problem is computationally challenging due to the exponential number of regional colocation patterns and candidate regions. Previously, we proposed a miner [Subhankar et. al, 2022] that finds statistically significant regional colocation patterns. However, the numerous simultaneous statistical inferences raise the risk of false discoveries (also known as the multiple comparisons problem) and carry a high computational cost. We propose a novel algorithm, namely, multiple comparisons regional colocation miner (MultComp-RCM) which uses a Bonferroni correction. Theoretical analysis, experimental evaluation, and case study results show that the proposed method reduces both the false discovery rate and computational cost.

研究动机与目标

• 解决在区域共现模式挖掘中因多个同时进行的统计推断而导致的高假发现率问题。
• 降低在指数级增长的候选模式中进行完整显著性检验所关联的计算成本。
• 通过整合严格的统计校正，提高检测到的区域共现模式的可靠性。
• 为零售、公共卫生和生态学等应用提供一种稳健的方法，以识别真正显著的空间共现模式。

提出的方法

• 所提出的 MultComp-RCM 算法对区域共现模式挖掘中所有同时进行的统计检验的 p 值应用邦费罗尼校正。
• 使用参与度指数衡量候选区域内共现的普遍性，并对每个区域-模式对进行显著性检验。
• 该方法对每个候选区域共现模式执行显著性检验，使用校正后的显著性水平 α 以控制家庭错误率。
• 将空间划分与统计推断相结合，仅关注同时满足参与度指数和校正后 p 值阈值的区域。
• 该算法通过在处理流程早期剔除不显著的候选模式，实现高效扩展。
• 在先前工作（SSRCM）的基础上，通过引入多重比较校正，有效减少假阳性结果，同时不降低统计严谨性。

实验结果

研究问题

• RQ1 如何在区域共现模式挖掘中有效缓解多重比较问题，以减少假阳性发现？
• RQ2 在此背景下，邦费罗尼校正确对第一类错误率和计算成本有何影响？
• RQ3 与 SSRCM 等先前方法相比，MultComp-RCM 在假发现率和性能方面表现如何？
• RQ4 所提出的方法能否在具有高度空间异质性的现实空间数据集中可靠地检测出真实的区域共现模式？
• RQ5 统计严谨性与检测潜在有意义但罕见的共现模式之间存在何种权衡？

主要发现

• MultComp-RCM 通过应用邦费罗尼校正，有效控制了所有同时进行的统计检验中的家庭错误率，从而降低了假发现率。
• 理论分析证明，该方法的假阳性率（第一类错误率）与基线方法 SSRCM 相比处于更低或相等水平。
• 由于经过校正后保留的显著模式更少，计算成本得以降低，避免了对虚假结果的完整处理。
• 在明尼苏达州零售业案例研究中，识别出多个显著的区域共现模式，其 p 值低于校正后的显著性阈值 0.05，例如：在亨内平县，{Caribou Coffee, Starbucks} 的 p = 0.01，参与度指数 = 0.34。
• 该方法在不同距离阈值下成功识别出多个统计显著的模式，包括在 1900 米距离下，亨内平县的 {Caribou Coffee, Starbucks, Dunn Bros} 模式（p = 0.01，参与度指数 = 0.52）。
• 该方法优于基于数据感知分区的方法（如 MOBR 基于的 SSRCM），通过消除偶然出现的非显著模式（即使参与度指数很高）而实现更优性能。