[论文解读] Beyond accuracy: quantifying trial-by-trial behaviour of CNNs and humans by measuring error consistency

Robert Geirhos, Kristof Meding+1 more|arXiv (Cornell University)|Jun 30, 2020

Neural dynamics and brain function被引用 36

一句话总结

逐次试验错误一致性作为比较人类与CNNs决策策略的方法被提出；发现CNN彼此之间高度一致，但人类与CNN之间的错误模式仅达到机会水平，且 CORnet-S 的表现更像一个前馈的 ResNet-50 而非人类数据。

ABSTRACT

A central problem in cognitive science and behavioural neuroscience as well as in machine learning and artificial intelligence research is to ascertain whether two or more decision makers (be they brains or algorithms) use the same strategy. Accuracy alone cannot distinguish between strategies: two systems may achieve similar accuracy with very different strategies. The need to differentiate beyond accuracy is particularly pressing if two systems are near ceiling performance, like Convolutional Neural Networks (CNNs) and humans on visual object recognition. Here we introduce trial-by-trial error consistency, a quantitative analysis for measuring whether two decision making systems systematically make errors on the same inputs. Making consistent errors on a trial-by-trial basis is a necessary condition for similar processing strategies between decision makers. Our analysis is applicable to compare algorithms with algorithms, humans with humans, and algorithms with humans. When applying error consistency to object recognition we obtain three main findings: (1.) Irrespective of architecture, CNNs are remarkably consistent with one another. (2.) The consistency between CNNs and human observers, however, is little above what can be expected by chance alone -- indicating that humans and CNNs are likely implementing very different strategies. (3.) CORnet-S, a recurrent model termed the "current best model of the primate ventral visual stream", fails to capture essential characteristics of human behavioural data and behaves essentially like a standard purely feedforward ResNet-50 in our analysis. Taken together, error consistency analysis suggests that the strategies used by human and machine vision are still very different -- but we envision our general-purpose error consistency analysis to serve as a fruitful tool for quantifying future progress.

研究动机与目标

• 阐明为什么仅凭准确率不足以推断人类与CNN之间共享策略的原因。
• 定义并使错误一致性可操作化，作为逐次试验的共享错误的度量。
• 为观测到的错误重叠和 Cohen’s kappa 在此背景下建立统计界限和置信区间。
• 将该方法应用于将多种CNN与人类及彼此在视觉对象识别任务上的表现进行比较。
• 评估 ImageNet 准确率的提升是否对应更像人类的错误模式。

提出的方法

• 将观测到的错误重叠 c_obs 定义为在正确/错误响应上完全相同的试验的比率。
• 在独立的二项决策者下，使用 p_i 和 p_j 计算期望重叠 c_exp（式 (Eq. 1)）。
• 通过对独立观察者的仿真和解析界限来描述置信区间（Eq. 2–3；附录的 Section S.3）。
• 用 Cohen’s kappa 量化误差一致性：kappa = (c_obs − c_exp) / (1 − c_exp)（Eq. 4）。
• 给出 kappa 的界限，作为 c_exp 的函数（Eq. 5–6）。
• 使用并比较来自 cue-conflict、edge、silhouette 和 ImageNet 实验的刺激；分析 CNNs（ImageNet 训练）与人类观察者。
• 包含 CORnet-S 作为一个递归模型，并与 ResNet-50 基线和 Brain-Score 指标进行比较。

实验结果

研究问题

• RQ1 CNNs 与人类在相同刺激上是否产生超出随机性的错误的一致性？
• RQ2 ImageNet 更高的准确率是否意味着 CNNs 具有更像人类的错误模式？
• RQ3 错误一致性在不同架构以及人类与不同 CNN 家族之间如何变化？
• RQ4 像 CORnet-S 这样的递归模型是否比纯前馈模型在与人类的一致性上提供更高的错误一致性？
• RQ5 在给定基线机会预期的情况下，错误一致性的界限和边界是什么？

主要发现

• CNN 在不同架构之间彼此之间非常一致。
• 人类-CNN 的错误一致性仅略高于机会，表明人类与CNN之间存在不同的策略。
• CORnet-S 在与人类的错误一致性方面几乎没有比 ResNet-50 的提升，在此分析中表现像前馈模型。
• CNN-CNN 的错误一致性通常很高，有时甚至超过人类-人类的一致性。
• 即使 CORnet-S 和 ResNet-50 也显示出高的 CNN-CNN 一致性，表明递归模型在这一度量下可能不会产生显著不同的行为模式。
• 该分析强调在评估行为指标时需要超越神经预测性或总体准确性。