[论文解读] Change Detection in Multivariate Datastreams: Likelihood and Detectability Loss

Cesare Alippi, Giacomo Boracchi+2 more|arXiv (Cornell University)|Oct 16, 2015

Data Stream Mining Techniques参考文献 23被引用 4

一句话总结

本文通过分析数据随时间的对数似然，研究了多变量数据流中检测变化的内在挑战。它识别出‘可检测性损失’——一种即使变化幅度（以对称Kullback-Leibler散度衡量）保持恒定，但随着数据维度增加，变化可检测性仍会因对数似然方差线性增长而下降的现象。

ABSTRACT

We address the problem of detecting changes in multivariate datastreams, and we investigate the intrinsic difficulty that change-detection methods have to face when the data dimension scales. In particular, we consider a general approach where changes are detected by comparing the distribution of the log-likelihood of the datastream over different time windows. Despite the fact that this approach constitutes the frame of several change-detection methods, its effectiveness when data dimension scales has never been investigated, which is indeed the goal of our paper. We show that the magnitude of the change can be naturally measured by the symmetric Kullback-Leibler divergence between the pre- and post-change distributions, and that the detectability of a change of a given magnitude worsens when the data dimension increases. This problem, which we refer to as \emph{detectability loss}, is due to the linear relationship between the variance of the log-likelihood and the data dimension. We analytically derive the detectability loss on Gaussian-distributed datastreams, and empirically demonstrate that this problem holds also on real-world datasets and that can be harmful even at low data-dimensions (say, 10).

研究动机与目标

• 研究数据维度如何影响多变量数据流中变化的可检测性。
• 分析在数据维度增加时，基于对数似然的变化检测方法的性能。
• 分离并量化一种根本性限制——可检测性损失，该限制源于数据维度的扩展，与密度估计误差无关。
• 在近似为高斯混合模型的真实世界数据集上，实证验证可检测性损失。
• 证明可检测性损失不仅存在于高维大数据中，也影响低维场景（例如，d=10）。

提出的方法

• 将多变量数据流中的变化建模为从预变化分布 φ₀ 到后变化分布 φ₁ 的转变，其中 φ₁ 通过正交变换 Q 和位置偏移 v 定义。
• 通过时间监控对数似然 ℒ(x(t)) = log(φ₀(x(t)))，将多变量变化检测问题简化为单变量问题。
• 使用 φ₀ 与 φ₁ 之间的对称Kullback-Leibler（sKL）散度作为变化幅度的度量。
• 引入变化的信噪比（SNR）以量化对数似然序列中的可检测性。
• 对高斯分布数据，解析推导可检测性的上界，表明其随 1/d 衰减。
• 通过旋转矩阵和位移向量，实证生成在不同维度下具有恒定 sKL 幅度的变化，非高斯情况下使用蒙特卡洛估计。

实验结果

研究问题

• RQ1 当使用对数似然监控时，数据维度 d 增加如何影响多变量数据流中变化的可检测性？
• RQ2 对称Kullback-Leibler散度（sKL）与对数似然序列中变化可检测性之间的关系是什么？
• RQ3 可检测性损失是否为基于对数似然的变化检测的内在限制，与密度估计误差无关？
• RQ4 可检测性损失是否在非高斯数据中持续存在，特别是当各分量独立时？
• RQ5 可检测性损失是否可在真实世界多变量数据流中被实证观察到，即使在低维情况下（例如，d=10）？

主要发现

• 即使变化幅度（以 sKL 衡量）保持恒定，多变量数据流中变化的可检测性仍随数据维度 d 增加而下降。
• 对于高斯分布数据，可检测性受一个随 1/d 衰减的函数上界限制，表明存在根本性的尺度限制。
• 可检测性损失与受变化影响的分量数量无关，且并非由密度估计误差引起。
• 该现象在近似为高斯混合模型的真实世界数据集中得到实证确认，即使在 d=10 时也观察到可检测性损失。
• 即使密度估计准确，可检测性损失也无法缓解——这是对数似然监控方法的内在属性。
• 本研究提出了一种在不同维度下生成恒定 sKL 幅度变化的方法，从而实现跨维度的变化检测性能公平评估。