[論文レビュー] Dual Memory Neural Computer for Asynchronous Two-view Sequential Learning

Hung Lê, Truyen Tran+1 more|arXiv (Cornell University)|Feb 2, 2018

Domain Adaptation and Few-Shot Learning参考文献 26被引用数 7

ひとこと要約

本稿では、非同期な二視点時系列データをモデル化するため、二つの独立したコントローラーとメモリを用いて視点内ダイナミクスおよび長期依存関係を捉える、メモリ拡張ニューラルネットワークであるデュアルメモリニューラルコンピュータ（DMNC）を提案する。モデルは、後期統合と初期統合のメモリモードをサポートし、後期および初期の視点間相互作用を処理でき、実世界の医療データを用いた薬剤処方および疾患進行予測タスクで最先端の性能を達成する。

ABSTRACT

One of the core tasks in multi-view learning is to capture relations among views. For sequential data, the relations not only span across views, but also extend throughout the view length to form long-term intra-view and inter-view interactions. In this paper, we present a new memory augmented neural network model that aims to model these complex interactions between two asynchronous sequential views. Our model uses two encoders for reading from and writing to two external memories for encoding input views. The intra-view interactions and the long-term dependencies are captured by the use of memories during this encoding process. There are two modes of memory accessing in our system: late-fusion and early-fusion, corresponding to late and early inter-view interactions. In the late-fusion mode, the two memories are separated, containing only view-specific contents. In the early-fusion mode, the two memories share the same addressing space, allowing cross-memory accessing. In both cases, the knowledge from the memories will be combined by a decoder to make predictions over the output space. The resulting dual memory neural computer is demonstrated on a comprehensive set of experiments, including a synthetic task of summing two sequences and the tasks of drug prescription and disease progression in healthcare. The results demonstrate competitive performance over both traditional algorithms and deep learning methods designed for multi-view problems.

研究の動機と目的

• 時系列が時間的に整合しない、複雑な視点内および視点間依存関係を示す非同期的で長期間にわたる多視点データをモデル化する課題に対処すること。
• 同期的多視点学習の限界を克服するため、可変長で非同期な時系列視点を処理できるモデルを設計すること。
• 三つのタイプの相互作用を捉えること：視点内ダイナミクス、推論時における後期視点間マッピング、推論前の初期視点間依存関係。
• 外部メモリを用いた汎用的でスケーラブルなアーキテクチャを構築し、医療分野を含む実世界の応用における複雑な時系列相互作用をモデル化すること。

提案手法

• 各入力視点を独立してエンコードできるように、二つの別個のニューラルコントローラーと外部メモリを採用し、メモリの書き込みと読み込みを通じて視点内での長期依存関係をモデル化する。
• 二種類の異なるメモリアクセスモードを実装する：後期統合（別個のメモリ空間、エンコーディング中にクロスアクセスなし）と初期統合（共有アドレッシング空間、エンコーディング中にクロスメモリアクセス可能）。
• キャッシュコンponentsを導入し、時間ステップ間で書き込み値を一時的に保持することで、エンコーディング段階での視点間非同期情報共有を可能にする。
• デコード段階でメモリの書き込みを保護するメカニズムを導入し、推論の効率性と安定性を向上させる。
• デコーダーで両方のメモリからの読み出しベクトルを統合し、視点間知識統合のためのアテンションベースの統合を用いて最終予測を生成する。
• コンテンツベースのアドレッシングと微分可能な読み書き操作を備えた外部メモリを活用し、長距離依存関係の学習を支援する。

実験結果

リサーチクエスチョン

• RQ1 メモリ拡張ニューラルネットワークは、二視点時系列データにおける長期依存関係および非同期的相互作用を効果的にモデル化できるか？
• RQ2 後期統合と初期統合のメモリモードは、異なるタイプの視点間相互作用をどのように捉えているか？
• RQ3 提案されたDMNCモデルは、実世界の時系列多視点タスクにおいて、既存のディープラーニングおよび伝統的な多視点手法をどの程度上回るか？
• RQ4 視点間でイベントレベルの相互作用をモデル化することで、薬剤処方や疾患進行予測といった医療予測タスクの性能が向上するか？

主な発見

• DMNCモデルは、地域病院データセットにおいて薬剤処方タスクで最先端の性能を達成し、P@1が67.6%を記録。DeepCare（66.2%）およびWLAS（65.9%）を上回った。
• 疾患進行予測タスクでは、初期統合DMNCが精神疾患でP@3が47.1%、糖尿病で56.9%を達成し、P@Kの全指標でWLASおよびDeepCareを上回った。
• 初期統合モードは、特に心疾患関連治療シーケンスを捉える能力に優れ、Acetylsalicylic Acidなどの薬剤の推薦に寄与した。
• 予測に使用する特徴量として、事前学習済み埋め込みと時間間隔特徴量を用いるDeepCareに比べ、DMNCは原始的な医療コードのみに依存しているにもかかわらず、優れた性能を示した。これは、イベントレベルでの視点間相互作用をモデル化することが重要であることを示している。
• 書き込みゲート値の可視化結果から、両モードとも重症で臨床的に重要なイベントに注目していることが判明。初期統合モードは、治療予測に不可欠な手順的情報をより多く保持していた。
• 糖尿病コhortでは後期統合モードがわずかに初期統合モードを上回ったが、全体として初期統合バージョンが優れており、すべてのタイプの視点間相互作用をモデル化する能力が裏付けられた。