Skip to main content
QUICK REVIEW

[论文解读] Poisoned Acoustics

Harrison Dahme|arXiv (Cornell University)|Feb 25, 2026
Adversarial Robustness in Machine LearningComputer Science被引用 0
一句话总结

论文在子1%污染下展示了针对性的数据投毒攻击,针对声学车辆分类使卡车错分为汽车的误判率极高且整体准确率损失可忽略不计,并提出使用 Merkle 证明和后量子签名的可信任最小化防御的方案。

ABSTRACT

Training-data poisoning attacks can induce targeted, undetectable failure in deep neural networks by corrupting a vanishingly small fraction of training labels. We demonstrate this on acoustic vehicle classification using the MELAUDIS urban intersection dataset (approx. 9,600 audio clips, 6 classes): a compact 2-D convolutional neural network (CNN) trained on log-mel spectrograms achieves 95.7% Attack Success Rate (ASR) -- the fraction of target-class test samples misclassified under the attack -- on a Truck-to-Car label-flipping attack at just p=0.5% corruption (48 records), with zero detectable change in aggregate accuracy (87.6% baseline; 95% CI: 88-100%, n=3 seeds). We prove this stealth is structural: the maximum accuracy drop from a complete targeted attack is bounded above by the minority class fraction (beta). For real-world class imbalances (Truck approx. 3%), this bound falls below training-run noise, making aggregate accuracy monitoring provably insufficient regardless of architecture or attack method. A companion backdoor trigger attack reveals a novel trigger-dominance collapse: when the target class is a dataset minority, the spectrogram patch trigger becomes functionally redundant--clean ASR equals triggered ASR, and the attack degenerates to pure label flipping. We formalize the ML training pipeline as an attack surface and propose a trust-minimized defense combining content-addressed artifact hashing, Merkle-tree dataset commitment, and post-quantum digital signatures (ML-DSA-65/CRYSTALS-Dilithium3, NIST FIPS 204) for cryptographically verifiable data provenance.

研究动机与目标

  • 量化在声学车辆分类器中诱导有针对性的错分所需的最小投毒率。
  • 证明聚合准确率监控不能可靠检测有针对性的少数分类攻击。
  • 表征后门触发器与类别不平衡之间的相互作用(触发优劣崩溃)。
  • 提出可验证、可信任最小化的 ML 训练流水线,以防御数据投毒和供应链攻击。

提出的方法

  • 使用 MELAUDIS 城市路口音频数据,输入为 128 能带对数梅尔频谱图
  • 在单车片段上训练一个紧凑的二维卷积神经网络用于六类车辆分类
  • 实现两种攻击变体:Truck->Car 标签的定向翻转以及一个 12x12 的梅尔频谱补丁的后门触发
  • 在保留样本的Truck上测量攻击成功率(ASR),投毒率 p ∈ {0.5%、1%、2%}
  • 分析少数类占比与可检测的准确率下降之间的关系,证明界限 Delta Acc_max <= beta
  • 提出带有 Merkle 数据集承诺和后量子签名的可信任最小化流水线以验证数据来历

实验结果

研究问题

  • RQ1实现高 ASR 的定向错误分类需要的投毒率是多少?
  • RQ2在不平衡数据集中,聚合准确率监控能否检测到有针对性的少数类攻击?
  • RQ3类别不平衡如何影响谱图空间中后门触发器的有效性?
  • RQ4哪些密码学防御可以确保 ML 训练流水线对数据投毒和供应链攻击的完整性?

主要发现

  • 0.5% 投毒(48 条记录)实现 Truck->Car 的 ASR = 95.7%,总体准确率为 87.6% 。
  • 在所有测试的投毒率下,聚合测试准确率与干净基线统计上不可区分(87.6%–87.4%)
  • 对于 Truck(约占训练数据的 3%),由少数占比引起的完整攻击导致的准确率损失被少数比例所界定 Delta Acc_max <= beta;因此不平衡放大了隐蔽性。
  • 在 0.5% 投毒的后门变体中,干净的 ASR 与触发的 ASR(≈94.87%)相等,表明触发在少数类中变得冗余,从而出现触发优劣崩溃。
  • 补丁后门退化为对少数类的标签翻转,意味着漏洞主要在标签而非谱图修改。
  • 带有 Merkle 数据集承诺和后量子 ML-DSA-65 签名的密码防御架构能够提供可验证的数据来历,缓解两种攻击类型。

阅读本论文

在 Nubint 阅读器中打开原文,边读边就任意段落提问。

在 Nubint 中阅读本论文

本解读由 AI 根据论文原文生成,引用前请核对原文。