[論文レビュー] A Generalist Neural Algorithmic Learner

Borja Ibarz, Vitaly Kurin+13 more|arXiv (Cornell University)|Sep 22, 2022

Machine Learning and Algorithms被引用数 7

ひとこと要約

本稿では、一様なパラメータを共有する単一のグラフニューラルネットワークとしての一般化型ニューラルアルゴリズム的ラーナーを導入している。このモデルは、ソート、最短経路、動的計画法、幾何計算など、多様な古典的アルゴリズムを同時に学習・実行可能である。入力表現、学習体制、GNNアーキテクチャの改善を通じて、CLRS-30ベンチマークにおける平均性能が20%以上向上し、分布外一般化においても専門家モデルと同等またはそれを上回ることを示した。これは、異種の制御フロー間で有効なマルチタスク知識統合を実現したことを示している。

ABSTRACT

The cornerstone of neural algorithmic reasoning is the ability to solve algorithmic tasks, especially in a way that generalises out of distribution. While recent years have seen a surge in methodological improvements in this area, they mostly focused on building specialist models. Specialist models are capable of learning to neurally execute either only one algorithm or a collection of algorithms with identical control-flow backbone. Here, instead, we focus on constructing a generalist neural algorithmic learner -- a single graph neural network processor capable of learning to execute a wide range of algorithms, such as sorting, searching, dynamic programming, path-finding and geometry. We leverage the CLRS benchmark to empirically show that, much like recent successes in the domain of perception, generalist algorithmic learners can be built by "incorporating" knowledge. That is, it is possible to effectively learn algorithms in a multi-task manner, so long as we can learn to execute them well in a single-task regime. Motivated by this, we present a series of improvements to the input representation, training regime and processor architecture over CLRS, improving average single-task performance by over 20% from prior art. We then conduct a thorough ablation of multi-task learners leveraging these improvements. Our results demonstrate a generalist learner that effectively incorporates knowledge captured by specialist models.

研究の動機と目的

• 共有パラメータを有する単一のニューラルネットワークを構築し、幅広い古典的アルゴリズム的タスクを学習・実行可能とする。
• 類似した制御フロー構造に限定されるか、単一のアルゴリズムに特化した専門家モデルの制限を克服する。
• 共同学習による数値的不安定性の増幅を是正することで、ニューラルアルゴリズム的推論におけるマルチタスク学習の安定性と性能を向上させる。
• 専門家モデルからの知識が、改善された学習およびアーキテクチャ的要素を通じて一般化型ラーナーに効果的に統合可能であることを示す。
• 多様なアルゴリズム的ドメインに応用可能なスケーラブルで汎用的なフレームワークを確立する。

提案手法

• タスク固有のエンコーダ・デコーダヘッドを備えた、共有重みを有する統一されたグラフニューラルネットワークプロセッサを採用し、複数のアルゴリズム的タスクを処理する。
• モデルの一般化性能と学習安定性を向上させるために、構造的でタスクに依存しない特徴を入力表現に追加する。
• マルチタスク学習における勾配不安定性を低減するため、チャンク化された学習体制を導入し、収束性と性能を向上させる。
• 訓練時と推論時の分布シフトを避けるために、ノイズ付きテイカー・フォースティングを回避し、分布外一般化性能を向上させる。
• アーキテクチャ的改善には、三つ組推論モジュール、ゲート付きメッセージパッシング、および微分可能ルーティングと注釈に使用するSinkhornベースの演算子を含む。
• 勾配クリッピングおよび効率最適化を適用し、CLRS-30ベンチマークにおける学習の安定化と収束速度の向上を図る。

実験結果

リサーチクエスチョン

• RQ1 根本的に異なる制御フローを持つ多様なアルゴリズム的タスクを、単一のニューラルネットワークが効果的に学習・実行できるか。
• RQ2 マルチタスク学習は、単一タスク専門家モデルと比較して、多様なアルゴリズム的タスクにおける一般化性能をどの程度向上できるか。
• RQ3 入力表現、学習体制、アーキテクチャの改善が、総合的にどのようにマルチタスクアルゴリズム的推論性能を向上させるか。
• RQ4 訓練時にテイカー・フォースティングのノイズを回避することで、アルゴリズム実行における分布外一般化性能が向上するか。
• RQ5 一般化型モデルは、特に大規模で未知のインスタンスにおいて、専門家モデルと同等またはそれ以上の性能を達成できるか。

主な発見

• 提案された一般化型モデルは、先行するSOTA手法と比較して、CLRS-30ベンチマークにおける平均性能が20.3%絶対的に向上した。
• ソートや最短経路を含む複数のタスクにおいて、対応する単一タスク専門家モデルと同等またはそれ以上の分布外一般化性能を達成した。
• アブレーションスタディの結果、テイカー・フォースティングのノイズが一般化性能を著しく損なうことが判明し、訓練時に真値ヒントが使用されると性能が低下した。
• チャンク化された学習体制は、通常のマルチタスク学習に比べて顕著な性能向上をもたらし、学習安定性の向上を示した。
• 三つ組推論モジュールやSinkhorn演算子といったアーキテクチャ的改善の組み合わせが、モデルの頑健性と性能に顕著な寄与を果たした。
• 数値的安定性と表現品質を的確に取り扱うことで、ニューラルアルゴリズム的推論における効果的なマルチタスク学習が可能であることが実証された。