[論文レビュー] Finding Archetypal Spaces for Data Using Neural Networks.

David van Dijk, Daniel B. Burkhardt+4 more|arXiv (Cornell University)|Jan 25, 2019

Music and Audio Processing参考文献 15被引用数 7

ひとこと要約

本稿では、データが非線形多面体に最もよく適合するような非線形変換を学習できる深層学習フレームワーク、AAnetを提案する。これにより、代表的データ状態の同定が可能となる。AAnetは、単細胞T細胞および腸内微生物叢データにおいて生物学的に意味のある代表的状態を的確に同定し、非線形な合成データにおいて従来手法を上回る性能を示すとともに、データ幾何構造からの生成的サンプリングを可能にする。

ABSTRACT

Archetypal analysis is a type of factor analysis where data is fit by a convex polytope whose corners are archetypes of the data, with the data represented as a convex combination of these archetypal points. While archetypal analysis has been used on biological data, it has not achieved widespread adoption because most data are not well fit by a convex polytope in either the ambient space or after standard data transformations. We propose a new approach to archetypal analysis. Instead of fitting a convex polytope directly on data or after a specific data transformation, we train a neural network (AAnet) to learn a transformation under which the data can best fit into a polytope. We validate this approach on synthetic data where we add nonlinearity. Here, AAnet is the only method that correctly identifies the archetypes. We also demonstrate AAnet on two biological datasets. In a T cell dataset measured with single cell RNA-sequencing, AAnet identifies several archetypal states corresponding to naive, memory, and cytotoxic T cells. In a dataset of gut microbiome profiles, AAnet recovers both previously described microbiome states and identifies novel extrema in the data. Finally, we show that AAnet has generative properties allowing us to uniformly sample from the data geometry even when the input data is not uniformly distributed.

研究の動機と目的

• 従来の代表的分析は、元の空間または変換空間においてデータが凸多面体に含まれると仮定しているが、現実の非線形データではこの仮定が成立しないことが多いため、その制限を解消すること。
• ニューラルネットワークを用いて最適な非線形変換を学習する手法を開発し、変換空間においてデータが凸多面体にうまく適合するようにすること。
• 線形仮定が成立しない生物学的データ、例えばT細胞サブタイプや微生物叢プロファイルにおいて、代表的状態を正確に同定できることを実現すること。
• 入力データが非一様に分布している場合でも、学習された変換がデータ幾何構造からの生成的サンプリングを可能にすることを示すこと。

提案手法

• AAnetは、入力データの非線形変換を学習するニューラルネットワークであり、変換後のデータが代表的点の凸結合によってよく近似できるようにする。
• モデルは、変換空間における元のデータとその代表的点の凸結合との再構成誤差を最小化する損失関数を最適化する。
• 代表的点はネットワークのパラメータとしてエンドツーエンドで学習され、幾何構造を保持し勾配ベース最適化を可能にするネットワークアーキテクチャが設計されている。
• この手法により、変換空間における代表的点の凸包からの均一なサンプリングが可能となり、元のデータ幾何構造を尊重したデータ生成が実現される。
• AAnetは誤差逆伝播と確率的最適化を用いて訓練され、安定的かつ意味のある代表的点の同定を保証するための正則化が施されている。
• 非線形多様体を有する合成データ上で検証され、単細胞RNA-seqおよび16S rRNA腸内微生物叢プロファイルを含む実際の生物学的データセットに応用されている。

実験結果

リサーチクエスチョン

• RQ1 ニューラルネットワークは、標準的な代表的分析と比較して、データを凸多面体によりよく適合させる非線形変換を学習できるか？
• RQ2 AAnetは、単細胞T細胞および腸内微生物叢データセットにおいて、既知の生物学的代表的状態を正確に回復できるか？
• RQ3 AAnetは、線形手法では捉えきれない、これまでに報告のない生物学的データの極値（外縁点）を同定できるか？
• RQ4 学習された変換は、入力データが非一様に分布している場合でも、データ幾何構造からの生成的サンプリングを可能にするか？

主な発見

• 非線形合成データにおいて、AAnetは唯一、真の代表的点を正しく同定しており、従来の代表的分析を上回る性能を示した。
• 単細胞RNA-seq T細胞データセットにおいて、AAnetはナーヴィ、メモリー、サイトトキシックT細胞に対応する代表的状態を同定し、既知の生物学的サブタイプと整合した。
• 腸内微生物叢データセットにおいて、AAnetは既に報告済みの微生物叢状態を回復し、文献にまだ報告のない新たな外縁点を同定した。
• AAnetによって学習された変換により、元のデータ分布が非一様であっても、代表的点の凸包からの均一なサンプリングが可能となった。
• AAnetは、データの幾何構造内に位置する生物学的に妥当な新しいデータポイントを生成する能力を示し、生成的機能を有している。
• 標準的な代表的分析が元空間または変換空間における凸性に依存するため、非線形データ構造では失敗するが、AAnetはそのような状況においても頑健である。