[論文レビュー] Editable Neural Networks

Anton Sinitsin, Vsevolod Plokhotnyuk+3 more|arXiv (Cornell University)|Apr 1, 2020

Adversarial Robustness in Machine Learning参考文献 26被引用数 8

ひとこと要約

この論文では、全体の性能を損なうことなく、個々の予測の迅速かつ勾配ベースの修正が可能な、モデルに依存しないメタラーニング手法「編集可能トレーニング（Editable Training）」を提案する。画像分類および機械翻訳のタスクで評価したところ、1回の編集に対して最大5.5ステップのトレーニングで、性能低下を最小限に抑え（例：BLEUスコアの低下が0.76から0.17に減少）、モデルの誤りを効率的かつ堅牢に是正できることを示した。

ABSTRACT

These days deep neural networks are ubiquitously used in a wide range of tasks, from image classification and machine translation to face identification and self-driving cars. In many applications, a single model error can lead to devastating financial, reputational and even life-threatening consequences. Therefore, it is crucially important to correct model mistakes quickly as they appear. In this work, we investigate the problem of neural network editing $-$ how one can efficiently patch a mistake of the model on a particular sample, without influencing the model behavior on other samples. Namely, we propose Editable Training, a model-agnostic training technique that encourages fast editing of the trained model. We empirically demonstrate the effectiveness of this method on large-scale image classification and machine translation tasks.

研究の動機と目的

• 再トレーニングを伴わずに、深層ニューラルネットワークにおける個々のモデル誤りを効率的に是正するという、重要なが未だ十分に検討されていない問題に取り組むこと。
• 展開後も迅速かつ局所的な編集が可能なモデルにすることが可能となるトレーニング手順を開発すること。
• 編集が他の入力に対するモデル性能に悪影響を及えないようにし、壊滅的忘却を回避すること。
• 画像分類やニューラル機械翻訳などの大規模タスクにおいて、この手法を評価すること。
• トレーニング中に見未曾有の入力に対して編集が一般化され、複数回の連続編集に対して堅牢であることを示すこと。

提案手法

• メタラーニングを用いて、特定の誤りに対して少量の勾配ステップを適用することで、その予測を是正できるようにモデルを訓練する。このとき、他の入力における性能に悪影響を及えないようにする。
• 局所的な挙動を保証するため、オリジナルモデルと編集後モデルの予測のKLダイバージェンスを最小化する損失項 $\mathcal{L}_{loc}$ を導入する。
• 系列モデルタスクでは、編集を最終デコーダ層に限定して適用し、最適化にRMSPropを用い、チューニングされたハイパーパrameterを適用する。
• このアプローチはモデルに依存せず、Transformer や CNN などの任意の微分可能なモデルに適用可能である。
• 実世界の是正シナリオを模倣するため、編集ターゲットを温度パラメータでサンプリングした分布から抽出する。
• アブレーションスタディにより、事前にそのようなシナリオにさらされていなくても、連続編集が可能であることが示された。

実験結果

リサーチクエスチョン

• RQ1 勾配ベースの更新を用いて、個々の予測誤りを迅速かつ効率的に是正できるように、ニューラルネットワークをトレーニングできるか？
• RQ2 提案された編集可能トレーニング手法は、編集プロセス中においても非編集入力におけるモデル性能を保持するか？
• RQ3 トレーニング中に見られなかったが、意味的または視覚的に類似した入力に対しても編集が一般化可能か？
• RQ4 複数回の連続編集において、編集の効率性と性能の安定性がどのようにスケーリングするか？
• RQ5 編集可能トレーニングは、ニューラル機械翻訳のような複雑で高次元のタスクに対しても効果的に適用可能か？

主な発見

• IWSLT14ドイツ語-英語翻訳タスクにおいて、編集可能トレーニングはBLEUスコア34.81を達成し、ベースラインの0.76から0.17にBLEUスコア低下を抑えた。これは、性能低下が極めて小さいことを示している。
• α = 10^{-3} の条件下で、平均3.07ステップで、目標翻訳の是正に100％の成功率を達成した。これは、高い信頼性を示している。
• 画像分類タスクでは、c_{loc} = 100 の条件下で、成功した編集に必要なステップ数を5.5にまで削減し、ランダムな編集ベースラインを上回った。
• 類似した画像に対して85.9％の正確性で編集を一般化でき、視点の変化などのわずかな入力変動に対しても堅牢であることが示された。
• 事前にそのようなシナリオにさらされていなくても、連続編集が成功した。これは、実世界の是正ワークフローに適応可能であることを確認した。
• 計算コストと一般化性能の観点から、標準的な再トレーニングやルックアップベースの手法に比べ、本手法は顕著に優れていた。