[論文レビュー] Multitask Learning using Task Clustering with Applications to Predictive Modeling and GWAS of Plant Varieties

Ming Yu, Addie Thompson+3 more|arXiv (Cornell University)|Oct 4, 2017

Spectroscopy and Chemometric Analyses参考文献 16被引用数 4

ひとこと要約

本論文は、凸クラスタリング正則化を用いて、スパース線形モデルとタスク間の階層的ツリー構造を同時に学習する、新しいマルチタスク学習フレームワークを提案する。この手法は、データからタスクの関係性を自動で同定し、予測精度を向上させるとともに、リモートセンシングデータを用いた植物形質予測およびGWASにおいて生物学的に意味のあるグルーピングを明らかにする。

ABSTRACT

Inferring predictive maps between multiple input and multiple output variables or tasks has innumerable applications in data science. Multi-task learning attempts to learn the maps to several output tasks simultaneously with information sharing between them. We propose a novel multi-task learning framework for sparse linear regression, where a full task hierarchy is automatically inferred from the data, with the assumption that the task parameters follow a hierarchical tree structure. The leaves of the tree are the parameters for individual tasks, and the root is the global model that approximates all the tasks. We apply the proposed approach to develop and evaluate: (a) predictive models of plant traits using large-scale and automated remote sensing data, and (b) GWAS methodologies mapping such derived phenotypes in lieu of hand-measured traits. We demonstrate the superior performance of our approach compared to other methods, as well as the usefulness of discovering hierarchical groupings between tasks. Our results suggest that richer genetic mapping can indeed be obtained from the remote sensing data. In addition, our discovered groupings reveal interesting insights from a plant science perspective.

研究の動機と目的

• データ駆動型の完全な教師あり手法として、タスク固有のパラメータと階層的タスク構造を同時に推定する教師付きマルチタスク学習手法の開発。
• 階層的クラスタリングを通じたタスクの関連性を活用することで、大規模なリモートセンシングデータを用いた植物形質の予測モデリングを改善すること。
• 手動測定ではなく、リモートセンシングデータから導出された形態的特徴量を用いることで、より強力な全ゲノム関連解析（GWAS）を可能にすること。
• 収束保証と解釈可能なタスクグループ化を備えた統計的に妥当な凸最適化フレームワークを提供すること。
• 合成データおよび実世界のハイパーフォーセス植物表型解析応用において、従来手法を上回る本手法の優位性を実証すること。

提案手法

• 本手法は、タスクパラメータに凸クラスタリングペナルティを組み合わせた凸最適化フレームワークを用い、階層的ツリー構造を誘導する。
• タスク固有係数のスパarsityと、連続的な正則化経路を通じた類似タスクのグループ化を促進する正則化された目的関数を定式化する。
• 導出された凸問題を解くために、収束が保証されたプロキシマル分解アルゴリズムを採用する。
• 階層的構造はデータから自動的に学習され、ツリーの各ノードは共有パラメータグループを表し、ルートはグローバルモデルを表す。
• 調整パrameter λ₂ によってインdeX付けられた連続的な解のパスを用い、異なる閾値でツリーをカットすることで、異なるタスクグループ化が得られる。
• 本フレームワークは、植物形質の予測モデリングおよびその下流のGWASに適用され、リモートセンシングデータから得られるヒストグラムベースの形態的特徴量が使用される。

実験結果

リサーチクエスチョン

• RQ1 教師ありで完全にデータ駆動的な方法として、マルチタスク学習フレームワークが、タスクパラメータと階層的タスク構造を同時に学習可能か？
• RQ2 本手法は、植物形質モデリングにおいて、従来のマルチタスク学習手法と比較して、予測精度をどのように向上させるか？
• RQ3 自動的に同定されたタスクグループ化は、植物形質またはゲノム領域間の生物学的に意味のある関係性を明らかにできるか？
• RQ4 リモートセンシングデータから導出された形態的特徴量を用いることで、従来の手動測定形質よりも強力な遺伝子マッピングが可能になるか？
• RQ5 収束性、スケーラビリティ、ロバストネスの観点から、本手法の統計的および計算的性能はいかがなものか？

主な発見

• 提案手法は優れた予測性能を達成し、ベースライン手法（タスク構造を学習しないものも含む）と比較して、合成データにおいてより低いRMSEを達成した。
• 本手法は、リモートセンシングのヒストグラムボックスを生物学的に解釈可能なグループに適切にクラスタリングした。特に、信号が強いほど後段の階層でマージされた。
• 染色体7では、既知のDwarf3遺伝子と共局在するSNPを同定し、生物学的妥当性を裏付けた。
• 染色体9では、コーンの閉鎖、葉の分布、開花に関連すると考えられる新規の候補領域を同定し、新たな遺伝的知見を示唆した。
• 特に高次元設定において、Kangらの手法に比べてスケーラビリティと安定性に優れた。後者では収束しなかった。
• 同定されたタスクグループ化は、植物構造や成長パターンに関連するボックスのクラスタリングを示し、意味のある植物科学的知見を提供した。