[论文解读] Estimate and Replace: A Novel Approach to Integrating Deep Neural Networks with Existing Applications

Guy Hadash, Einat Kermany+4 more|arXiv (Cornell University)|Apr 24, 2018

Topic Modeling参考文献 21被引用 19

一句话总结

本文提出了一种名为'Estimate and Replace'的新方法，通过在端到端训练过程中使用可微分估计器（EstiLayer）来模仿外部非可微应用的行为，将非可微外部应用集成到深度神经网络（DNN）中。在推理阶段，估计器被实际的外部API替换，从而在较少训练数据下实现优于纯DNN的性能。

ABSTRACT

Existing applications include a huge amount of knowledge that is out of reach for deep neural networks. This paper presents a novel approach for integrating calls to existing applications into deep learning architectures. Using this approach, we estimate each application's functionality with an estimator, which is implemented as a deep neural network (DNN). The estimator is then embedded into a base network that we direct into complying with the application's interface during an end-to-end optimization process. At inference time, we replace each estimator with its existing application counterpart and let the base network solve the task by interacting with the existing application. Using this 'Estimate and Replace' method, we were able to train a DNN end-to-end with less data and outperformed a matching DNN that did not interact with the external application.

研究动机与目标

• 解决将非可微外部应用集成到端到端深度学习流水线中的挑战。
• 通过利用现有且准确的外部应用，减少训练DNN的数据需求。
• 通过在训练期间使用可微分代理，使DNN能够学习与外部API正确交互的接口。
• 证明在推理阶段用真实API替换学习到的估计器，可提升模型的泛化能力和准确性。

提出的方法

• 引入EstiLayer，一种可微分神经网络组件，用于估计非可微外部应用的行为。
• 端到端训练完整网络（EstiNet），其中EstiLayer被约束以符合目标API的输入输出行为。
• 采用多任务训练过程，同时优化主DNN并强制EstiLayer匹配外部应用的功能。
• 应用在线预训练，使用预训练模型初始化EstiLayer，以提升收敛性和泛化能力。
• 在推理阶段，将每个EstiLayer替换为实际的外部应用API，从而在保留训练网络接口逻辑的同时实现真实交互。
• 采用混合训练策略，结合离线预训练和在线微调，以提升在有限数据上的模型性能。

实验结果

研究问题

• RQ1 是否可以通过可微分代理，实现端到端训练的深度神经网络与非可微外部应用的交互？
• RQ2 在推理阶段用真实外部API替换学习到的估计器，是否能提升模型的准确率和泛化能力？
• RQ3 与纯DNN基线相比，Estimate and Replace方法是否能减少训练数据量？
• RQ4 当训练数据稀缺时，特别是在少样本或低数据场景下，该方法的有效性如何？
• RQ5 模型是否能通过接口学习和选择，正确编排多个外部API？

主要发现

• Estimate and Replace方法在仅使用10,000个训练样本的逻辑推理任务中实现了0.98的推理准确率，显著优于基线DNN。
• 通过在线预训练，模型在训练阶段达到0.98的准确率，推理阶段也达到0.98，表明在数据有限的情况下具有强大的泛化能力。
• 在250个样本的小型数据集上，在线训练方法实现了96.6%的测试准确率，而普通训练基线仅为53.3%，相对提升达81%。
• 随着数据量减少，在线训练与普通训练的性能差距进一步扩大，表明Estimate and Replace在低数据场景下尤为有效。
• 该方法使DNN能够学习到正确的API交互模式，包括复杂的选择逻辑和类型化参数处理，即使在存在非可微组件的情况下也能实现。
• 该方法将数据需求减少了高达95%：仅需标准DNN所需数据的5%即可达到97%的准确率。