[论文解读] Recurrent neural circuits for contour detection

Drew Linsley, Junkyung Kim+2 more|arXiv (Cornell University)|Oct 29, 2020

Spectroscopy and Chemometric Analyses被引用 17

一句话总结

本文提出γ-Net，一种受灵长类视觉皮层回路启发的循环神经网络，在轮廓检测任务中实现了卓越的样本效率，同时自然表现出方向倾斜错觉。该错觉并非缺陷，而是优先关注高层对象边界而非低层边缘的神经机制的副产品，表明上下文错觉可反映人工与生物视觉系统中高效场景分割策略的本质。

ABSTRACT

We introduce a deep recurrent neural network architecture that approximates visual cortical circuits. We show that this architecture, which we refer to as the gamma-net, learns to solve contour detection tasks with better sample efficiency than state-of-the-art feedforward networks, while also exhibiting a classic perceptual illusion, known as the orientation-tilt illusion. Correcting this illusion significantly reduces gamma-net contour detection accuracy by driving it to prefer low-level edges over high-level object boundary contours. Overall, our study suggests that the orientation-tilt illusion is a byproduct of neural circuits that help biological visual systems achieve robust and efficient contour detection, and that incorporating these circuits in artificial neural networks can improve computer vision.

研究动机与目标

• 探究诸如方向倾斜错觉等上下文视觉错觉是否为高效神经计算的副产品，而非生物系统中的缺陷。
• 开发一种深层循环神经网络架构（γ-Net），模仿灵长类视觉皮层回路，以提升轮廓检测任务中的样本效率。
• 检验γ-Net中的方向倾斜错觉是否反映了对检测对象边界而非低层边缘的战略性偏好。
• 通过针对性校正错觉，评估错觉存在与轮廓检测性能之间的权衡。

提出的方法

• γ-Net是一种分层的、可训练的循环神经网络架构，受Mély等人（2018）提出的皮层回路模型启发，该模型可解释视觉中的上下文错觉。
• 该模型采用一种称为fGRU（反馈门控循环单元）的反馈-循环单元，整合跨越空间扩展感受野的前向与反馈信号。
• 通过卷积循环实现循环动力学，使网络能在时间步上迭代优化特征表示。
• 网络在BSDS500等标准数据集上端到端训练轮廓检测任务，监督信号为像素级边界预测。
• 为检验方向倾斜错觉的作用，模型在保持读出头不变的前提下，微调以校正其在诱发错觉的刺激中对中心条栅方向的感知。
• 性能通过BSDS500测试集上的F1 ODS分数进行评估，比较校正错觉的模型与在非错觉刺激上训练的领域迁移控制模型。

实验结果

研究问题

• RQ1 人工神经网络中的方向倾斜错觉是计算低效的标志，还是高效场景分割策略的副产品？
• RQ2 受灵长类视觉皮层启发的循环神经回路是否能在轮廓检测中相比最先进前馈网络提升样本效率？
• RQ3 γ-Net中方向倾斜错觉的存在是否与对高层对象边界而非低层边缘的偏好相关？
• RQ4 当在γ-Net中校正方向倾斜错觉时，轮廓检测性能如何变化？这揭示了上下文反馈的何种作用？

主要发现

• 在两种轮廓检测任务中，γ-Net在数据稀缺的训练条件下显著优于最先进前馈卷积网络，展现出更高的样本效率。
• γ-Net在轮廓检测训练后自然表现出方向倾斜错觉，与人类感知一致，而标准前馈模型中未观察到此现象。
• 校正γ-Net中的方向倾斜错觉导致轮廓检测性能显著下降（p < 0.001），表明该错觉与检测对象边界的策略性偏倚密切相关。
• 校正错觉后的γ-Net转而偏好低层边缘，而领域迁移控制模型仍保持对高层轮廓的偏好，证实错觉有助于边界检测。
• 通过损毁仅涉及水平（空间广域）连接的γ-Net结构，可破坏错觉的产生，确认此类连接对错觉出现至关重要。
• 本研究为上下文错觉并非计算缺陷，而是优化于鲁棒且高效轮廓检测的神经回路的副产品，提供了计算证据。