[論文レビュー] Pointer Networks

Oriol Vinyals, Meire Fortunato+1 more|arXiv (Cornell University)|Jun 9, 2015

Machine Learning and Data Classification被引用数 134

ひとこと要約

この論文は、アテンション機構を用いて入力系列から出力トークンを動的に選択するニューラルアーキテクチャであるポインタネット（Ptr-Nets）を導入している。これにより、可変サイズの出力辞書が可能となる。モデルは入力点のインデックスを予測することで、凸包、デローラン境界分割、TSPといった組合せ最適化問題を学習し、訓練長さを越えて強く一般化し、小規模TSPタスクにおいてベースラインを上回る性能を達成している。

ABSTRACT

We introduce a new neural architecture to learn the conditional probability of an output sequence with elements that are discrete tokens corresponding to positions in an input sequence. Such problems cannot be trivially addressed by existent approaches such as sequence-to-sequence and Neural Turing Machines, because the number of target classes in each step of the output depends on the length of the input, which is variable. Problems such as sorting variable sized sequences, and various combinatorial optimization problems belong to this class. Our model solves the problem of variable size output dictionaries using a recently proposed mechanism of neural attention. It differs from the previous attention attempts in that, instead of using attention to blend hidden units of an encoder to a context vector at each decoder step, it uses attention as a pointer to select a member of the input sequence as the output. We call this architecture a Pointer Net (Ptr-Net). We show Ptr-Nets can be used to learn approximate solutions to three challenging geometric problems -- finding planar convex hulls, computing Delaunay triangulations, and the planar Travelling Salesman Problem -- using training examples alone. Ptr-Nets not only improve over sequence-to-sequence with input attention, but also allow us to generalize to variable size output dictionaries. We show that the learnt models generalize beyond the maximum lengths they were trained on. We hope our results on these tasks will encourage a broader exploration of neural learning for discrete problems.

研究の動機と目的

• 出力辞書のサイズが入力長に依存する可変サイズの出力クラスを扱う際のseq2seqモデルの限界を解消すること。
• 出力が入力系列からのインデックスである離散的・組合せ的シーケンス生成タスクを学習可能なニューラルアーキテクチャを開発すること。
• NP困難な幾何的問題（例：凸包、デローラン境界分割、対称TSP）の近似解をデータ駆動型ニューラルアプローチで学習できることを示すこと。
• 構造的出力シーケンスを有する問題において、訓練時に見なかった入力長に対して一般化できることを示すこと。
• アテンションを入力要素への'ポインタ'として再利用可能であり、固定出力語彙が不要なエンドツーエンド学習を可能にすること。

提案手法

• モデルはエンコーダRNN（LSTM）を用いて入力系列をコンテキストベクトルに符号化し、それをデコーダRNNの制御に用いる。
• デコーダの各ステップで、コンテンツベースのアテンション機構が入力系列の位置に対してソフトマックスを計算し、次に出力するトークンのポインタとして機能する。
• 出力は固定クラスの出力ではなく、入力系列内の位置に対応するインデックスのシーケンスであるため、可変サイズの出力辞書が可能となる。
• 確率的勾配降下法を用いて、正解出力シーケンスの対数尤度を最大化することで、エンドツーエンドで学習される。
• TSPタスクの推論時には、有効性制約を伴うビームサーチが適用され、無効な巡回路（例：重複または欠落した都市）を回避する。
• 合成トレーニングデータは正確なアルゴリズムを用いて生成され、このアーキテクチャは3つの幾何的問題（平面上の凸包、デローラン境界分割、対称TSP）に適用されている。

実験結果

リサーチクエスチョン

• RQ1 固定出力語彙が存在しない状況で、ニューラルネットワークが入力系列からのインデックスのシーケンスを生成できるか？
• RQ2 特に組合せ的問題において、訓練時に見なかったより長い入力系列に対しても一般化できるか？
• RQ3 完全にデータ駆動型のアプローチが、TSPのようなNP困難問題の競合可能な近似解を学習できるか？
• RQ4 入力位置へのアテンションをポインタとして再利用することで、可変辞書タスクにおいて標準的なseq2seqモデルに比べて性能が向上するか？
• RQ5 訓練例から、凸包やデローラン境界分割のような複雑な幾何的関係をどの程度学習できるか？

主な発見

• 凸包予測において、n=50までの入力で100%の正確性を達成し、訓練長さn=20を越えて一般化した。
• デローラン境界分割では、n=50の入力に対して52.8%の三角形カバレッジを達成し、完全な正答に至らずとも意味的な一般化を示した。
• TSPでは、n≤20の最適データで学習したモデルがn=25およびn=30に対しても良好に一般化し、巡回路長が最適値の1.5%以内に収まったが、n=40およびn=50では性能が低下した。
• 部分最適アルゴリズム（例：A1）のデータで学習した場合、Ptr-Netは元のアルゴリズムを上回り、データからより良いヒューリスティクスを学習できることを示した。
• 固定長問題においても、標準的なseq2seqモデルに比べて顕著に優れた性能を示し、制約付き環境でも有効性が確認された。
• 特にO(n log n)程度の低いアルゴリズム的複雑性を持つ問題では、訓練長さを超えて一般化できるが、TSPのような高複雑度問題では大規模なスケールで困難を示した。